凤凰卫视2024年10月13日发布:研究认为AI产生的幻觉能影响搜索结果和其他AI 形成危险的反馈循环
⭐发布日期:2024年10月13日 | 来源:凤凰卫视
【新澳彩资料免费资料大全33图库】 |
【香港2023最准马资料免费】 |
【2024年新奥门王中王资料】 | 【管家婆一肖一码100%准确】 | 【管家婆2024精准资料大全】 | 【澳门一肖一码100精准】 | 【2024新澳门天天开好彩大全】 | 【管家婆八肖版资料大全】 | 【四肖八码期期准资料免费】 | 【管家婆精准资料大全怎么样】 |
【2023今晚澳门开特马.】 | 【新澳彩开奖结果查询】 | 【今晚澳门开码开奖结果】 | 【管家婆一肖一码澳门码资料】 | 【澳门三肖三码期期准精选牛】 | 【新澳门六开彩资料大全】 | 【2023澳门精准正版资料大全】 | 【管家婆一肖一码取准确比必】 |
自从生成式人工智能和大型语言模型出现以来,一些人曾警告说,人工智能生成的输出最终可能会影响后续的人工智能生成的输出,从而形成一个危险的反馈回路。我们现在有了这样一个记录在案的案例,进一步凸显了新兴技术领域的风险。
一位研究人员在试图举例说明人工智能聊天机器人产生幻觉的虚假信息时,无意中影响了搜索结果的排名,导致另一个聊天机器人产生幻觉。这一事件表明,随着人工智能增强型搜索引擎的普及,有必要采取进一步的保障措施。
信息科学研究员丹尼尔-格里芬(Daniel S. Griffin)今年早些时候在自己的博客上发布了两个聊天机器人提供错误信息的例子,涉及有影响力的计算机科学家克劳德-香农(Claude E. Shannon)。格里芬还附上了免责声明,指出聊天机器人提供的信息是不真实的,以阻止机器搜索器索引这些信息,但这还不够。
格里芬最终发现,包括微软必应和Google Bard在内的多个聊天机器人都把他发布的幻觉信息当成了真实信息,并将其排在了搜索结果的前列。当被问及有关香农的具体问题时,机器人以格里芬的警告为基础,进行了一致但虚假的叙述,将一篇香农从未写过的论文归因于香农。更令人担忧的是,必应和巴德的搜索结果并没有表明它们的来源是一位法学硕士。
这种情况类似于人们断章取义或断章取义地引用资料来源,从而导致错误的研究。格里芬的案例证明,生成式人工智能模型有可能以可怕的规模自动纠正这种错误。
微软随后在必应中纠正了这一错误,并假设在处理网上人类撰写材料相对较少的主题时,更有可能出现这一问题。这一先例具有危险性的另一个原因是,它为不良分子提供了一个理论蓝图,使他们可以故意利用LLM,通过影响搜索结果来传播错误信息。众所周知,黑客通过调整欺诈性网站来获得搜索结果的最高排名,从而传播恶意软件。
该漏洞与六月份的一项警告不谋而合,该警告指出,随着网络上出现更多由 LLM 生成的内容,这些内容将被用于训练未来的 LLM。由此产生的反馈循环可能会在一种被称为"模型崩溃"的现象中极大地削弱人工智能模型的质量和可信度。
使用人工智能的公司应确保培训持续优先考虑人工制作的内容。保留知名度较低的信息和少数群体制作的材料有助于解决这一问题。
【一码一肖100准今晚澳门】 【澳门六开彩资料查询最新】 |
【澳门一肖一码100精准澳门】 【黄大仙一肖一码开奖37B】 |
【2023澳门今晚开奖直播】 【2024新澳免费资料公式】 |
【管家婆一码一肖100中奖】 【2024新澳今晚资料】 |
【新澳彩开奖结果2023开奖记录查询】 【管家婆一码一肖资料大全五福生肖】 |
【新澳天天开奖资料大全最新54期】 【今天澳门一肖一码】 【香港期期准资料大全】 |
发表评论
罗尼·布莱克利
1秒前:Shannon)。
IP:98.44.7.*
李彦娟
2秒前:我们现在有了这样一个记录在案的案例,进一步凸显了新兴技术领域的风险。
IP:35.61.9.*
秦梦瑶
6秒前:信息科学研究员丹尼尔-格里芬(Daniel S.
IP:61.47.7.*