北斗六星网

标题: 杞人忧天：对AI生成信息的几点思考，你有何高见？ [打印本页]

作者: 公理力 时间: 2025-3-18 21:18
标题: 杞人忧天：对AI生成信息的几点思考，你有何高见？
本帖最后由公理力于 2025-3-18 22:03 编辑

杞人忧天：对AI生成信息的几点思考，你有何高见？

文：公理力

时下，AI新产品面世及其普及应用两方面均呈爆炸性增长态势。论坛族作为AI普通用户，积极拥抱这一新技术，包括在论坛分享AI生成文字等信息，都是十分自然和理应肯定的事情。这不是问题。

但同样显而易见的是，AI相关法规，以及网媒AI规范等的出台及跟进，滞后于AI技术的迅猛“进化”也是一种必然。
在这一大背景下，论坛族在使用AI及分享AI生成信息一事上，或许有必要注意几个涉及自己、他人和论坛利害的一些问题。下面分享公某想到的主要几点。

1】使用任何AI产品，隐私保护这根弦不可松懈
AI的记忆力可谓100%可靠。与之打交道，应尽最大可能不提供涉及隐私信息，包括但不限于：本人和他人的真实身份信息、履历信息，及一切可能与特定个体关联的具体信息。否则，要不了多久，你在AI面前，即使没有成为透明人，也很可能被它了解过多底细，这就面临个人隐私失控，某时被某种方式泄露的危险。

ID名虽公开使用，但建议尽量不提供给AI，一旦与其它信息联系起来，对保护隐私不利。例如，AI完全可能（但大概率不会）通过ID名了解你在论坛的所有信息，包括你的好恶、立场倾向、交流对象，甚至你说过的每一句话！再结合你主动提供的用户信息和所有与AI互动记录，你的某些隐私就可能处于危险中。

需要强调的一点是，公某无意危言耸听。AI产品出品方隐私规范不可能完全缺如，现有的相关法规对AI用户的隐私也会有一定程度的保护。但重点是，主动防止隐私泄露的任何可能，总比分享隐私给任何方导致的被动要明智得多。何况，至少今天没人能知道，第三方（包括所有用户）利用AI技术从事不轨、非法操作的话，究竟会带来何等严重后果。例如，利用真人肖像用AI生成不同目的的图片，通过AI模仿真人声音进行电话诈骗等。

2】分享AI生成文字、图片、音像等信息，应有来源说明或标识
这方面，现有法规、互联网规范、论坛版规等似乎都还没有涉及，预计今后会陆续出台不同层级的管理规矩。但当下，论坛族宜形成一种自觉和自律。无需拔高到公序良俗、伦理道德、品格操行等层面，关照到尊重自己、尊重他人这一条就够了。

3】就论坛这个特殊的虚拟社交平台而言，或许无需等待更高层级的管理规矩出台，宜尽快在六星版规中加入AI生成信息相关规矩。
具体来说，应拒绝AI生成信息在版面的任何负面应用，包括嘲讽、谩骂、攻击、羞辱等类AI生成信息。
例如，利用AI生成文字辱骂他人，处罚举措应较直接辱骂更严厉。道理也很简单，前者本质上与使用物理凶器犯罪同理。

4】在娱乐版讨论提出的几个问题
——拒绝AI生成信息在版面的任何负面应用，这条就没有可操作性；
——但一直没有AI相关规矩，就可能有人肆无忌惮地利用AI生成负面的东西，甚至可以毫不费力地花样翻新，无穷无尽……
——各级各类作品竞赛活动，就立即面临一个是否AI代笔的现实问题；
——AI写诗，有的一眼可以识别，但写出无法识别的也不是难事；
——AI时代我们都变成不动脑子的机器人了；
——AI 生成信息的来源说明或标识方面，现有的法规、规范、版规等，似乎都还处于空白地带；
——AI写诗确实很好，个人认为比大多数诗人写的好，也许诗人这行以后就消失了；
——随着AI的普及，肯定会有许多让人瞠目结舌的古诗发生
——今后各类伪作恐怕会层出不穷，模仿鲁迅、曹雪芹、张爱玲、丘吉尔，都不是问题，就是模仿老子、孔子、屈原，也难不倒AI
…… …… ……

这个问题暂到此。

作者: 公理力 时间: 2025-3-18 21:18
本帖最后由公理力于 2025-3-18 22:03 编辑

关于公某让AI写的一首诗，还是另帖发吧

作者: 知音 时间: 2025-3-18 21:33

细思恐极

作者: 知音 时间: 2025-3-18 21:35

版规应该补充这方面的内容，但是如果有人把ID提供给了AI但不发到论坛也控制不了

作者: 知音 时间: 2025-3-18 21:38

这不是杞人忧天

作者: 公理力 时间: 2025-3-18 21:38

知音发表于 2025-3-18 21:33
细思恐极

嗯，如果说机器人干掉人类还过于遥远，当下就会出现的现实问题就很多
例如，今后你再举办什么作品竞赛的话，识别AI代笔问题，就足以难道组织者和评委

作者: 公理力 时间: 2025-3-18 21:43
本帖最后由公理力于 2025-3-18 21:46 编辑

知音发表于 2025-3-18 21:35
版规应该补充这方面的内容，但是如果有人把ID提供给了AI但不发到论坛也控制不了

嗯，还有很多延伸问题，我也没去想

不过，任何人在与AI交流过程中，只是提供某人论坛ID，一般而言，问题不大。毕竟，ID名本来就是公开的，没有与此ID关联的其它现实生活信息，对隐私的威胁应该不大。

给AI提供自己的ID名，危险反而可能更高。因为，注册用户长期与AI交流，难免会在不经意间点点滴滴地泄露有价值的个人信息，就不能不重视

作者: 公理力 时间: 2025-3-18 21:49

知音发表于 2025-3-18 21:38
这不是杞人忧天

这话我是替那几枚“逢公必反”者说的

作者: 卖真方子的 时间: 2025-3-18 21:55

公理力发表于 2025-3-18 21:49
这话我是替那几枚“逢公必反”者说的

他人与你吵架还需要借助AI？

从来没有借助过AI帮忙吵架。

倒是辱骂他人祖宗十八代，需要小心别擦法律监管的边。

作者: 知音 时间: 2025-3-18 21:57

公理力发表于 2025-3-18 21:49
这话我是替那几枚“逢公必反”者说的

其实现在的人也没啥隐私了，我微信名就是真名，社交软件、购物平台都是真名，还有啥隐私了

作者: 公理力 时间: 2025-3-18 22:08
本帖最后由公理力于 2025-3-18 22:19 编辑

知音发表于 2025-3-18 21:57
其实现在的人也没啥隐私了，我微信名就是真名，社交软件、购物平台都是真名，还有啥隐私了

你这种情况偶尔也遇到过，还有比你更牛的
当年在新浪杂谈，就有位报刊主编，用真名注册ID名玩儿论坛
对了，六星的童天一，是不是也是真名？

作者: 公理力 时间: 2025-3-18 22:15
本帖最后由公理力于 2025-3-18 22:18 编辑

卖真方子的发表于 2025-3-18 21:55
他人与你吵架还需要借助AI？

从来没有借助过AI帮忙吵架。

现在没有——或从来没有（很难说）——借助AI帮忙吵架的，你确定明天也没有吗？

你确定你的逻辑思维没有忘记：不但所有其他人有明天，你大概率也有？

顺便肯定一句，羞辱自家18代祖宗的无需小心，或许应该表扬：大义灭亲

作者: 卖真方子的 时间: 2025-3-18 22:20

公理力发表于 2025-3-18 22:15
现在没有借助AI的，你确定明天也没有吗？

你确定你的逻辑思维没有忘记：不但所有其他人有明天，你也 ...

顺便肯定一句，羞辱自家18代祖宗的无需小心，或许应该表扬：大义灭亲

——————————————————————————

你大概率是个法盲。

虚拟ID的真实肖像权，真实声像权，是绝对的法律禁区

虚拟ID的名誉权，目前属于法律监管的灰色地带，当事人可以对对方提起民事诉讼，要看当事人怕不怕麻烦。

网络造谣也是明显的违法行为。

作者: 红七狐 时间: 2025-3-18 23:03
未来数据说了算，思维能力说了算，人无法掌握数据，但可以提高思维能力，通过思维能力，让数据位自己服务。

作者: 公理力 时间: 2025-3-18 23:17

卖真方子的发表于 2025-3-18 22:20
顺便肯定一句，羞辱自家18代祖宗的无需小心，或许应该表扬：大义灭亲

—————————————— ...

想给你多少留点面子都不成！

你不是法盲，是文盲。连就事论事都不会：
谁跟你扯什么"虚拟ID的名誉权"维权问题啦？
谁又说过“网络造谣”不是违法行为啦？

作者: 公理力 时间: 2025-3-18 23:21

红七狐发表于 2025-3-18 23:03
未来数据说了算，思维能力说了算，人无法掌握数据，但可以提高思维能力，通过思维能力，让数据位自己服务。

嗯，道理确实如此，这也是反驳AI打败人类的主要理据

但与此同时，考虑AI正在迅速“进化”中，也不可小觑AI可能带来的负面效应不是？

作者: 卖真方子的 时间: 2025-3-18 23:24

公理力发表于 2025-3-18 23:17
想给你多少留点面子都不成！

你不是法盲，是文盲。连就事论事都不会：

连就事论事都不会：

——————————————————————

莫非你辱骂我家人辱骂我的祖宗十八代，就是你所谓的“就事论事"?

你的个人逻辑确实怪异。

另外，我不太清楚你的真实年龄是多大，我也没有太大的兴趣确证。我估计不会超过60岁。

我有些大学同学也是国内的教授，大部分风度都很好。

当然，我并不是说你是教授。

只不过，如果确实是教授的话，就应该有教授的风度，而不应该因为这里是虚拟的网络而随意辱骂他人的近亲属。

你看我说得对吧？

作者: 按倒就亲 时间: 2025-3-18 23:38
前年，GpT刚出来的时候，关注了很久这方面的讨论，有过很多发散思虑。
今年反而兴注少了，似乎只要不大量投入使用取代就业，就没什么大问题。毕竟这玩意儿进化太快，非专业的忧天也没用，白白凭添焦虑。

作者: 公理力 时间: 2025-3-18 23:39

卖真方子的发表于 2025-3-18 23:24
连就事论事都不会：

——————————————————————

羞辱你家18代祖宗的是你自己，诸如揭露你祖宗搞歪门邪道：当不上官，就花钱买个候补道，弄虚作假……

你造谣我辱骂你“祖宗十八代”，这不就是你楼上刚说过的：“网络造谣也是明显的违法行为”吗？

我没兴趣指证你知法犯法，但必须肯定：你打自己嘴巴从不手软的骚操作，给版有带来了快乐福利

作者: 卖真方子的 时间: 2025-3-18 23:42
羞辱你家18代祖宗的是你自己，诸如揭露你祖宗搞歪门邪道：当不上官，就花钱买个候补道，弄虚作假……

你造谣我辱骂你“祖宗十八代”，这不就是你楼上刚说过的：“网络造谣也是明显的违法行为”吗？

我没兴趣指证你知法犯法，但必须肯定：你打自己嘴巴从不手软的骚操作，给版有带来了快乐福利

————————————————————————

你辱骂我祖宗十八代的截图证据。
看来你是准备在这里展示你的臭嘴了。

也好，让你自证你的人品是如何低劣的。

作者: 公理力 时间: 2025-3-18 23:45

按倒就亲发表于 2025-3-18 23:38
前年，GpT刚出来的时候，关注了很久这方面的讨论，有过很多发散思虑。
今年反而兴注少了，似乎只要不大量 ...

公平地讲，ChatGPT与DeepSeek还是同一级别，Manus的改进版或许是一个新台阶

关于非专业普通用户，同样有足够理由关注AI的效应，如我楼上回知音提到的：

如果你们计划在六杂举行文字竞赛的话，就不能不考虑AI代笔的问题

作者: 公理力 时间: 2025-3-18 23:50
本帖最后由公理力于 2025-3-19 00:02 编辑

卖真方子的发表于 2025-3-18 23:42
羞辱你家18代祖宗的是你自己，诸如揭露你祖宗搞歪门邪道：当不上官，就花钱买个候补道，弄虚作假……

你 ...

哈哈哈哈~，你的文字理解能力真的如此惨不隐睹吗？
你处处犯贱找骂（如班门弄斧啥是好老师，这帖也无事生非扯无关的事）暂不论
这个截图说得不还是你在羞辱你祖宗的事吗？
你看不懂，可以不服，这我理解，建议你把整个句子都列出来，然后逐字逐句分析

作者: 卖真方子的 时间: 2025-3-18 23:55

公理力发表于 2025-3-18 23:50
哈哈哈哈~，你的文字理解能力真的如此惨不隐睹吗？
这截图说得不还是你在羞辱你祖宗的事吗？

你其实是个傻/B。

刘庄主其实是个聪明人。他也骂人，讽刺人，但是他从来不指名道姓，他只是含沙射影，指桑骂槐。

因为他是法律行业出身，知道指名道姓的法律利害关系。

国骂没有问题，比如骂人傻/B，傻叉。

这些都属于擦边球。

具体指名道姓就不同了。

法律是讲证据的，我给你截个图，也是纯属好心提醒。

作者: 公理力 时间: 2025-3-19 00:05
本帖最后由公理力于 2025-3-19 00:07 编辑

卖真方子的发表于 2025-3-18 23:55
你其实是个傻/B。

刘庄主其实是个聪明人。他也骂人，讽刺人，但是他从来不指名道姓，他只是含沙射影， ...

上面刚给你指了明道：
你理解力差不要紧，可以把整个句子都列出来，然后逐字逐句分析
看看那句话的表述，是不是你在羞辱自己祖宗？

顺便也要谢谢你，总能找到无关事由给我积极顶帖

作者: 卖真方子的 时间: 2025-3-19 00:10
本帖最后由卖真方子的于 2025-3-19 00:12 编辑

公理力发表于 2025-3-19 00:05
上面刚给你指了明道：
你理解力差不要紧，可以把整个句子都列出来，然后逐字逐句分析
看看那句话的表述 ...

你这个跟帖骂人的调门，至少降了八度。

好现象，真乖，知道收敛是一件好事。

我估计与我上面的贴图打了你之前否认辱骂我祖宗十八代的事实的脸，有关系。

傻/B，我其实进来这个帖子，就是让你自我暴露你的人品的。

想不到你真的上当了。

作者: 公理力 时间: 2025-3-19 00:18
本帖最后由公理力于 2025-3-19 00:21 编辑

卖真方子的发表于 2025-3-19 00:10
你这个跟帖骂人的调门，至少降了八度。

好现象，真乖，知道收敛是一件好事。

嘿嘿，你来宣传卖假方子的同时，不忘羞辱自己祖宗（花钱买候补道）的光荣事迹，我是欢迎滴

当然，你总是借机展览自己的理解力惨不隐睹，我也不能反对，否则，会影响瓜众的幸福指数

作者: 战斗鸡 时间: 2025-3-19 00:34

公理力发表于 2025-3-18 23:45
公平地讲，ChatGPT与DeepSeek还是同一级别，Manus的改进版或许是一个新台阶

关于非专业普通用户，同样 ...

文字竞赛用ai代笔，这是作弊。你脑子坏了？好意思鼓励大家比赛谁作弊高明？
用ai对参赛文章辅助裁判，才是物尽其用。

作者: 战斗鸡 时间: 2025-3-19 00:35

公理力发表于 2025-3-19 00:18
嘿嘿，你来宣传卖假方子的同时，不忘羞辱自己祖宗（花钱买候补道）的光荣事迹，我是欢迎滴

...

你愚蠢起来，跟不主流是一个级别的。

作者: 战斗鸡 时间: 2025-3-19 00:38
ai对作者文字表达的意图，理解很全面精准。这的确表现出人工智能强大的分析归纳能力。

作者: 公理力 时间: 2025-3-19 00:43
本帖最后由公理力于 2025-3-19 00:50 编辑

战斗鸡发表于 2025-3-19 00:34
文字竞赛用ai代笔，这是作弊。你脑子坏了？好意思鼓励大家比赛谁作弊高明？
用ai对参赛文章辅助裁判，才 ...

我去！你高隐的理解力跟卖方子那傻缺一样不堪？
你从我那句话能看出“鼓励大家比赛谁作弊高明”？？？
看看我回复知音的原话：“今后你再举办什么作品竞赛的话，识别AI代笔问题，就足以难道（倒）组织者和评委”

如果你不承认理解力幼齿，那就意味着你高隐颠倒黑白已经习惯成自然啦

作者: 公理力 时间: 2025-3-19 00:47
本帖最后由公理力于 2025-3-19 00:51 编辑

战斗鸡发表于 2025-3-19 00:35
你愚蠢起来，跟不主流是一个级别的。

这是再次自证你高隐理解力跟那傻缺一样惨不隐睹

你有脸说，那个傻子宣扬他祖宗花钱买候补道不是羞辱他祖宗？说他是带来家门不幸的孽种，这是陈述事实

作者: 战斗鸡 时间: 2025-3-19 00:48

公理力发表于 2025-3-19 00:43
我去！你高隐的理解力跟卖方子那傻缺一样不堪？
你从我那句话能看出“鼓励大家比赛谁作弊高明”？？？
...

哦？看错了。

作者: 战斗鸡 时间: 2025-3-19 00:51

公理力发表于 2025-3-19 00:47
这是再次自证你高隐理解力跟那傻缺一样惨不隐睹：

你有脸说，那个傻子宣扬他祖宗花钱买候补道不是羞辱 ...

你跟他一样，愚蠢地以为打滚有一种成就感。

作者: 公理力 时间: 2025-3-19 00:55

战斗鸡发表于 2025-3-19 00:51
你跟他一样，愚蠢地以为打滚有一种成就感。

那傻子展览祖宗丑事，我当然要配合，正如你跟着提及，我也得配合，否则，岂不影响瓜众幸福指数？

作者: 公理力 时间: 2025-3-19 00:57

战斗鸡发表于 2025-3-19 00:48
哦？看错了。

我去，你认错，我都有点不适应——不知该咋接啦

作者: 战斗鸡 时间: 2025-3-19 01:13

公理力发表于 2025-3-19 00:55
那傻子展览祖宗丑事，我当然要配合，正如你跟着提及，我也得配合，否则，岂不影响瓜众幸福指数？{:1_220: ...

我是说你跟不主流一样，打滚都打出成就感来了。

作者: 公理力 时间: 2025-3-19 02:13
本帖最后由公理力于 2025-3-19 02:14 编辑

战斗鸡发表于 2025-3-19 01:13
我是说你跟不主流一样，打滚都打出成就感来了。

上面已经告诉你，公某对你们的所有瞎嚷嚷都是助力你们的表演效果而已

作者: 卖真方子的 时间: 2025-3-19 07:22
你就是个”乸型“。

作者: 知音 时间: 2025-3-19 12:07

公理力发表于 2025-3-18 23:45
公平地讲，ChatGPT与DeepSeek还是同一级别，Manus的改进版或许是一个新台阶

关于非专业普通用户，同样 ...

六杂举行文字竞赛的话，就请AI做评委，省得因为成绩吵架

作者: 春水秋霜伊人 时间: 2025-3-19 12:11

公理力发表于 2025-3-18 21:18
关于公某让AI写的一首诗，还是另帖发吧

等候。

作者: 河海森林 时间: 2025-3-19 12:25
ai生成作品到底版权属于谁？

美国有个作曲软件suno，他就说这个曲子做成后版权归个人所有。

作者: 公理力 时间: 2025-3-19 12:48

知音发表于 2025-3-19 12:07
六杂举行文字竞赛的话，就请AI做评委，省得因为成绩吵架

好主意！把ChatGPT、DeepSeek、Manus，还有国内的豆包等都用上，至少可以做到比较公平

只是不清楚AI鉴别AI代笔的本事如何，不能准确识别AI代笔问题，这类竞赛就没啥意义了

作者: 公理力 时间: 2025-3-19 12:49

春水秋霜伊人发表于 2025-3-19 12:11
等候。

呵呵，明天吧

作者: 战斗鸡 时间: 2025-3-19 12:50

公理力发表于 2025-3-19 12:48
好主意！把ChatGPT、DeepSeek、Manus，还有国内的豆包等都用上，至少可以做到比较公平

只是不清楚AI鉴 ...

AI鉴别代笔，有专门的模型。

作者: 公理力 时间: 2025-3-19 12:52

河海森林发表于 2025-3-19 12:25
ai生成作品到底版权属于谁？

美国有个作曲软件suno，他就说这个曲子做成后版权归个人所有。

这还真是个问题了，属于AI或AI的使用者好像都不太合适，让双方共享好像更合理些

作者: 公理力 时间: 2025-3-19 12:53

战斗鸡发表于 2025-3-19 12:50
AI鉴别代笔，有专门的模型。

哦，你有没有尝试过？

作者: 战斗鸡 时间: 2025-3-19 12:55

公理力发表于 2025-3-19 12:53
哦，你有没有尝试过？

我看了你的发言。我说的不是你AI鉴定AI自己代笔的那种，而是学术界专门用来查重论文的智能模型。
我也是听说，没见过试过。

作者: 公理力 时间: 2025-3-19 13:25

战斗鸡发表于 2025-3-19 12:55
我看了你的发言。我说的不是你AI鉴定AI自己代笔的那种，而是学术界专门用来查重论文的智能模型。
我也是 ...

哦，那就是学术界查重的AI新工具

那种确实不能用于这类对首次出现文字作品是否AI代笔的鉴别

作者: 红七狐 时间: 2025-3-19 22:57

公理力发表于 2025-3-18 23:21
嗯，道理确实如此，这也是反驳AI打败人类的主要理据

但与此同时，考虑AI正在迅速“进化”中，也不可小 ...

对于在文学欣赏，著作版权上、隐私保护等领域内的负面效应，当然值得重视，但这些不是我乐于关注的方向，我乐于关注的是人类设计的AI的底层逻辑是什么？因为这个底层逻辑决定未来AI的成长方向，如果底层逻辑错了，这个世界的未来不可想象。

作者: 公理力 时间: 2025-3-20 06:12

红七狐发表于 2025-3-19 22:57
对于在文学欣赏，著作版权上、隐私保护等领域内的负面效应，当然值得重视，但这些不是我乐于关注的方向， ...

不太确定你这里的“底层逻辑”的具体指向，AI设计的基本出发点应该是人类的工具，这个定位应该不会有什么疑问。

问题在于，在世界各国纷纷投入资源全力竞争的大背景下，AI技术开发与进化在所有可能的领域全方位进行。没人能保证，未来任何时候，AI自身的高度进化不会有失控的危险，如AI形成威胁人类安全的自我意识。

欢迎光临北斗六星网 (http://bdlxbbs.top/)