跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • Light
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Dark
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠

我的精神家园

  1. 主页
  2. 我思故我在
  3. 3月15日时文讨论: 如何看待AI“一本正经胡说八道”

3月15日时文讨论: 如何看待AI“一本正经胡说八道”

已定时 已固定 已锁定 已移动 我思故我在
52 帖子 47 发布者 2.4k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 庄 离线
    庄 离线
    庄仁涵
    写于 最后由 编辑
    #16

    1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
    有。我在问他某项赛事的预测时他将一个已经淘汰的队伍认作冠军。就是他们会根据问题几个词语来选出概率最高的词语,从而形成回答,导致很可能会将几个互不关联的词连在一起。我觉得deepseek似乎主要是根据查询到的网页来回答的,他只是把几个网页的关键信息整理了出来,所以它应该是可以理解的,不然它没法鉴别信息的真伪和准确性
    2.这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
    大概可以,我就是比较好奇ai写作的原理是什么

    1 条回复 最后回复
    0
    • 姜 离线
      姜 离线
      姜子麒
      写于 最后由 编辑
      #17

      阅读以下文章,请你联系自己使用AI的经历,分享对下面问题的想法:
      1、你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
      有,而且不少。幻觉产生的原因是ai生成文字其实是通过学习的大量相似语境生成下一个字而形成的。很明显,这个问题我们先需要解释什么是理解,我不太懂脑科学,可是人类的理解也是个很神奇的过程,扪心自问我们自己怎么知道自己有没有理解这个词语,ai也可以把这些词语用出来……
      2、这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
      1、ai是否可能不用文字而直接由文图结合的方式进行思考,即用来判定的媒介不仅仅是文字还有图像……这样就可以更加接近人脑的“思考”功能。
      2、为什么不能直接把事实的输出写作优先级最高的?

      1 条回复 最后回复
      0
      • 胡 离线
        胡 离线
        胡艾洁
        写于 最后由 编辑
        #18

        你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
        当问同类型的问题时,ai生成的答案是一个统一的模板,给你一个看似合理的回答,但它似乎并不理解真正的内容,也无法判断真假。它仅仅是利用大量的数据进行组合和模仿。

        这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
        这篇文章让我理解了一些ai为什么会“胡说八道”,因为它并不是真的知道答案。
        随着AI的普及,怎么防止它被滥用?
        随着科技发展,AI会不会真的理解内容?是否能像人类一样思考?

        1 条回复 最后回复
        0
        • 竺熠珲竺 离线
          竺熠珲竺 离线
          竺熠珲
          写于 最后由 编辑
          #19

          预习作业1:
          遇到过AI幻觉。我认为,AI幻觉产生的原因是AI的模型不具备“理解词意”的功能,无法理解人类所给出的指令的含义。它只是将指令拆分成词元,并预测看似“最可能”的组合,而不在意它的真实性,所以会出现许多子虚乌有的信息。我觉得AI没有“智能”,它不能理解我们的意思。因为AI只是一个推理模型,它根据输入的数据和信息,通过算法进行预测和推断。虽然AI在某些任务上表现得非常出色,甚至超过了人类,但这并不意味着AI具有真正的“智能”。它无法像人类一样理解复杂的情感、价值观和道德准则。
          预习作业2:
          并没有完全解决。我会问:1.AI是如何从6710亿个参数中快速找出回答?
          2.AI在处理信息时,是否会受到预设偏见的影响,从而导致结果的不公正?
          3.随着技术的发展,AI是否有可能在未来具备真正的“智能”,甚至超越人类的智能水平?

          1 条回复 最后回复
          0
          • 段 离线
            段 离线
            段明泽
            写于 最后由 编辑
            #20

            问题一:
            我在使用AI的时候也遇到过AI的大模型幻觉,而根据文章,AI的幻觉根源其实并不是我搜索的信息流,而是AI特殊的处理问题的形式——transformer。它在处理词的时候,会将各种词拆解成一个个包含位置信息的词源,这样可以方便进行数字编程和计算处理,让AI更灵活地处理各种语言。但是由于这种拆分,AI并不会进行理解词义这个步骤,它更像是在进行一种预测。在这个过程中,它按照统计的相关数据选择它认为是最可能的组合,但并没有考虑其真正的含义或引申义。它的答案都是基于概率分布去看待重点,只能尽量准确地预测后续应出现的单词或词句。它只是在模仿基本的训练,然后尽可能准确地进行文本续写。所以我觉得AI其实并没有智能,虽然它深沉的话语充满了人情味,感觉就像一个真人在和你说话,理解的程度也很深,但是它就是一个计算机,把训练存储的数据一一提取出来,组成句子,看似十分精准,但是它并不理解所回答的问题,不能说它智能。
            问题二:这篇文章更加完善了我对AI大模型幻觉的理解。倘若我能与AI领域的专家进行深入交流,我会问以下这几个问题:
            (1)有什么办法能让我更方便地找出AI大模型产生幻觉的错误之处?
            (2)将AI大模型的训练内容进行修正或者升级,能不能降低大模型出现幻觉的概率?(3)可不可以将AI大模型独特的transformer系统进行改变或者升级来降低大模型幻觉的概率?AI的前景如何?

            1 条回复 最后回复
            0
            • 施 离线
              施 离线
              施旻萱
              写于 最后由 编辑
              #21

              问题1:我有遇到过AI幻觉。我问AI陈从周修复豫园的设计理念,它告诉我理念之后还给了我一张豫园的照片,但是图片上却有一个在水中的类似于菩萨的雕像,我觉得很奇怪,就问它,它告诉我这是在点春堂景区,但点春堂没有面积较大的水和雕塑,为了确保准确我就问它点春堂有没有雕塑,它却告诉我没有,这就矛盾了。我觉得AI出现幻觉是因为AI会注意我们问题中的关键词,条件,关联词等,根据高质量训练集的内容进行总结模仿写出答案,但是它并不理解关键词的意思,只是模仿写出看似合理的答案这其中会有它自己瞎编的内容。因为这一点我觉得AI不是特别智能。
              问题2:通过文本,我了解到让AI不出错其实是不可避免的,毕竟它不理解词语的意思,为了减少它胡说八道的情况就要把问题问清楚而不是给它一个比如“理念”的大概念。我有两个问题:第一,为什么在AI给出总结模仿后的答案前,不先根据自己的数据库来搜索一下自己的答案是不是瞎编的,它的数据库肯定是足够大的?第二,为什么AI对同一个问题的回答不一样,这样胡说八道的可能性就更大?

              1 条回复 最后回复
              0
              • 刘抒逸刘 离线
                刘抒逸刘 离线
                刘抒逸
                写于 最后由 编辑
                #22

                ⒈你在使用ai时,有没有遇到过“al幻觉”?根据文章,ai幻觉产生的原因是什么?你觉得ai有没有智能?
                有。有一次我写了一首小诗,发现里面有些字不太合适,就问deepseek“柳芽”有什么别称,发现别称是对的,但是佩的诗词出处却是混乱的。根据文章,我觉得ai出现幻觉是因为它并不是一个单纯的帮助你快速寻找正确答案“资源库”,而是有创造性的,由于训练时只是给它一个数据库,训练ai组织语言,所以它并没有真正像人一样理解词意,仅是将词语与常用的另一些词语关联起来,目前还没有做到真正的“智能”。
                ⒉ 这篇文章有没有解决你对于AI的困惑?假如有机会,你会问AI领域的专家什么问题?
                并不完全。这几篇文章让我理解了ai是一个“生成式”的,且不理解词意,纠正了我之前对ai是“无所不知的数据库”的错误认知。但是也带起了我的疑惑:
                ⑴ 既然ai出现幻觉,降低温度虽能消除幻觉,但又会让ai失去额外价值,那么将来会有办法找到两全其美的方法吗?
                ⑵用户输入什么内容会对ai有诱导性或让ai无法回答?

                1 条回复 最后回复
                0
                • 李 离线
                  李 离线
                  李心皓
                  写于 最后由 编辑
                  #23

                  1,我认为ai幻觉就是指过度的依赖ai从而对真正的显示和虚拟的世界产生一定的幻觉。我认为ai不够智能,她不能完全的体会你想要得到的答案。
                  2,有。如果和专家交流的话,我最想问的问题是如何控制ai以后的发展。

                  1 条回复 最后回复
                  0
                  • 吕 离线
                    吕 离线
                    吕翰林
                    写于 最后由 编辑
                    #24

                    1我在使用AI时遇到过AI幻觉,根据文章AI幻觉的原因是因为他的预测能力没有那么准确,我觉得AI没有智能,因为他不理解,只是按照人类给他的模型来推测下一个词语。
                    2这篇文章解决了我对于AI的疑惑

                    1 条回复 最后回复
                    0
                    • 贺心语贺 离线
                      贺心语贺 离线
                      贺心语
                      写于 最后由 编辑
                      #25

                      1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                      有遇到过。AI不是在查找答案,而是在预测,下一个要说的最合理的词应该是什么,基于transformers模型,AI将一整个指令分解为一个一个的词,再用注意力机制分析每一个词后面应该对应的词是哪一个,最后将这些分析出来的词语组合成一个完整的句子。也正是因为如此,AI并没有真正理解句子的能力,也就造成了AI幻觉的出现。

                      2.这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                      有,问题:AI是在什么样的背景下被创造出来的?

                      1 条回复 最后回复
                      0
                      • 余 离线
                        余 离线
                        余路
                        写于 最后由 编辑
                        #26

                        1、你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                        没有,几乎没用过ai,少有的几次可能没看出来。原因是它不理解词意,只会预测。我认为它没有,它只能够基于统计生成文本。
                        2、这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                        解决了一部分,我的问题是AI在未来是否有可能实现真正的理解能力?怎么去平衡ai的准确度和创造力?

                        1 条回复 最后回复
                        0
                        • 张 离线
                          张 离线
                          张雨芎
                          写于 最后由 编辑
                          #27

                          1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                          有遇到过,根据文章,AI 幻觉产生的原因在于它对下一个要说的最合理的词的推测不完全准确。AI无法理解它生成的词句的意思,但它能够预测到下一个应该说什么。
                          2.这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                          有。我会想问如何快速分辨以及解决AI幻觉

                          1 条回复 最后回复
                          0
                          • 官 离线
                            官 离线
                            官乐欣
                            写于 最后由 编辑
                            #28

                            1
                            我曾经一次用deep seek搜索一篇课内文言文和一篇课外文言文之间联系和关系的时候,我发现deep seek其实不能够正确的给出我想要的信息。 deepseek将另外一篇其他作者写的同名的古文发送给了我。但是当我给他解释让他明白我说的是另外一篇古文的时候,他依然重复回答了。之前他搜索出来这篇古文,并且用一种非常可笑的方式来修正自己的回答。他仍然用了原来那篇古文的内容,但是却将这篇古文的作者擅自修改了。
                            2
                            我比较想要了解ai幻觉在技术方面有没有突破的可能。当我们需要ai的便利,但同时又担心他给予的信息是否准确的时候,我们应该采取一种什么样的方式?

                            1 条回复 最后回复
                            0
                            • 陈 离线
                              陈 离线
                              陈煜
                              写于 最后由 编辑
                              #29

                              你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                              有,尤其是在查讲坛内容里的材料的时候 ;我现在对ai的感觉就是只能问简单点的问题和有逻辑性的问题(数学题),其他的没办法完全理解你的意思
                              这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                              如果说把现在市面上的ai模型整合在一起是否会得到一个较大的提升
                              未来的ai模型是否会偏向专业化领域的单独训练

                              1 条回复 最后回复
                              0
                              • 刘 离线
                                刘 离线
                                刘子锐
                                写于 最后由 编辑
                                #30

                                你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                的确会有些莫名其妙的话,看似非常合理,但却是杜撰的。词元会被拆分重组,可能会有不合理的地方。我认为他们是没有独自思考的能力。
                                这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                                大致的问题是解释的比较明白
                                在发展迅速的背景下,是否会阻止ai有自我思考的能力,如何控制,我们怎么知道他有没有这种能力。

                                1 条回复 最后回复
                                0
                                • 叶 离线
                                  叶 离线
                                  叶韦汝
                                  写于 最后由 编辑
                                  #31
                                  1. 你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                    我暂时没有发生过文章中提到的AI幻觉,可能是因为我平时常用AI来查查资料,不经常用它的生成功能吧,不过有一次我让它根据张乐平的风格生成一副有关三毛的漫画,他生成出来的三毛却有三条腿,也不止三根头发,不知道算不算一种AI幻觉?;AI幻觉的产生是基于AI的工作原理的,AI会预测一个词接下来的词大概是什么,如果这种预测不符合实际,就会出现AI幻觉;我觉得AI是没有智能的,因为它只是通过自己接受的数据进行预测和模仿,和“鹦鹉学舌”是一个道理,只不过它比鹦鹉更聪明一些罢了
                                  2. 这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                                    这篇文章基本解决了我对AI的困惑,尤其是有关AI幻觉的部分;我可能会问专家:AI模型的训练数据范围是怎样的?会在输入客观数据的同时,输入一些主观的内容吗?阿西莫夫短篇小说里的正子脑是有可能实现的吗?
                                  1 条回复 最后回复
                                  0
                                  • 许 离线
                                    许 离线
                                    许铭轩
                                    写于 最后由 编辑
                                    #32

                                    1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                    目前没有。Ai幻觉出现的原因主要源自它自身的运算机制。我认为ai幻觉就是应为ai没有智能,他只能根据数据灌输处理问题,也无法判断信息的来源是否准确,所以回答中可能会带有个人观点,所以ai现阶段的几乎所有智能都是人类赋予的。
                                    2,。这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                                    有。我会问:

                                    1. 在正确信息大面积的覆盖下能否消除ai幻觉的影响。
                                      2.为什么不将ai分为两个板块,一个创造,一个准确。
                                      3.我们能否快速辨别ai信息是否准确
                                      4.为什么ai无法理解内容真正的意思
                                    1 条回复 最后回复
                                    0
                                    • 杨婧棋杨 离线
                                      杨婧棋杨 离线
                                      杨婧棋
                                      写于 最后由 编辑
                                      #33

                                      1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                      我在使用deepseek帮我制定台州旅游攻略的时候,他让我在去完国清寺之后去一家里那很近的咖啡店,但当我去查了之后才发现那家咖啡店距离国清寺有8公里的距离……
                                      我觉得AI还是不能去理解我们所给出的指令,它的本质还是从我们的指令中提取关键词,然后在从别处(可能是它的资源库或者是网上)去搜寻答案再通过程序中赋予它的组织语言的能力将这些信息编定成我们所需的答案,但本质还是通过程序设计做到的,并没有真正的理解
                                      2.这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                                      基本上把我日常对于AI的困惑解决了。
                                      如果有一天AI真的能理解人类情感,能模仿共情,会如何影响人际关系,作为技术人员,你们是否会做出组织它发展下去的行动?

                                      1 条回复 最后回复
                                      0
                                      • 王 离线
                                        王 离线
                                        王乾宇
                                        写于 最后由 编辑
                                        #34
                                        1. 你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                          有过这种经历,我给他喂物理题的时候,他会在过程中给出正确的方程式和定理,但在最后结果的输出上有时会输出某种不可能的情况。根据文章ai幻觉产生的原因是比较复杂的,我觉得根本的是人类对于人类思维的产生过程可能不太了解,所以让ai根据大量数据中词语出现的概率输出结果,让他看起来智能,符合正常的思维。因此,我觉得如果transformer模型运行的逻辑是文章中描述的话,目前的ai并不算智能
                                        2. 这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题
                                          我觉得这篇文章解决了我对于ai背后运行逻辑的问题,但对于为什么会有这种逻辑的问题没有解决。我可能会问你们对于人工智能的定义是什么,未来会怎样改进模型,目前遇到了什么科学原理上或者技术上的瓶颈
                                        1 条回复 最后回复
                                        0
                                        • 陈 离线
                                          陈 离线
                                          陈星宇
                                          写于 最后由 编辑
                                          #35

                                          1.你在使用AI时,有没有遇到过“AI幻觉”?根据文章,AI幻觉产生的原因是什么?你觉得,AI有没有“智能”(它理解吗?)?
                                          我自己没有碰到过,甚至问了Deepseek一些“法国与月球之间的殖民地冲突”、“如何换圆珠笔中的铅芯”这样的问题,它也能告诉我其中的错误。根据文章,AI幻觉主要产生的原因是因为AI的思考逻辑。它是通过分析关键词来引申出训练模版中最相似的答案,然后组装出答案。我觉得AI有”智能”,但若问它是否能理解就值得深思了。若是按照人类的理解法,AI是永远无法“理解”的。但是每个物种都有它的分析逻辑,AI是靠训练数据来“理解”这个世界的,如同狗能“听懂”人类说话一样。
                                          这篇文章有没有解决你对于AI的困惑?假如你有机会与AI领域的专家深入交流AI,你会问专家哪些问题?请列出你好奇的问题。
                                          之前我一直困惑AI如何能思考?我刻板印象中的程序是按照一条条编码来严格执行的,模型训练只能帮助下棋AI、识别物体AI等一些利用枚举法来完成事务的AI。看完这篇文章,我理解了AI能思考的大致方法。对于AI幻觉,我并没有太大吃惊,毕竟没有东西不会犯错,出现AI幻觉顶多乐一乐乐一乐。
                                          若我能与AI领域的专家深入交流AI,我有以下一些好奇的问题:
                                          1.为什么同一个AI训练集中的数据都一样,问其同一个问题时却会有无数种不同的答复?
                                          2. AI可以上网吗?意思是AI的答复是实时更新的,还是每一年或月会重新导入一次训练集与数据?
                                          3. AI为什么能创造出世界上未被发明出来的东西?是怎么思考到的?

                                          1 条回复 最后回复
                                          0

                                          • 登录

                                          • 没有帐号? 注册

                                          • 登录或注册以进行搜索。
                                          Powered by NodeBB Contributors
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组