新研究揭示:AI自生成内容的循环使用可能导致“模型崩溃”
据《福布斯》9月4日报道,牛津大学的伊利亚·舒梅洛夫博士及其团队在《自然》杂志上发表的一项研究中指出,当AI系统仅依赖于由自身生成的内容进行训练时,其输出质量会迅速下降。
这种现象被称为“模型崩溃”,即AI在不断使用自身生成的数据进行训练后,其输出内容逐渐失去准确性和实用性。
研究显示,在经过五次连续的自我生成内容训练后,AI的输出质量显著下降;到了第九次,输出内容已经退化为毫无意义的文本。
舒梅洛夫博士指出,模型崩溃的发生速度之快和难以察觉的程度令人惊讶。最初,它可能只影响少数数据,但随后会逐渐侵蚀输出的多样性,最终导致整体质量的严重下降。
为了验证这一现象,研究人员采用了一种方法:他们使用了一个预训练的AI系统,该系统能够驱动一个维基百科的版本,并让AI基于自己生成的内容进行更新。结果发现,随着受污染数据的累积,原本的训练集逐渐被侵蚀,输出的信息质量也随之恶化。例如,在经过多次循环后,原本关于14世纪英国教堂尖顶的条目被错误地更新为关于短尾兔子的论文。
此外,AWS团队在6月的另一项研究中发现,大约57%的网络文本都经过了AI算法的处理。如果互联网上的人类生成内容被AI生成内容迅速取代,那么AI可能正面临“自我毁灭”的风险,同时也可能对互联网的内容质量造成严重影响。
研究最后建议,为了确保AI的长期可持续发展,必须确保其能够访问到非AI生成的内容,并持续引入新的人工生成内容,以避免模型崩溃的发生。
责编:高蝶
免责声明:凡注明为其它来源的信息均转自其它平台,由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本站联系,我们将及时更正、删除,谢谢。联系邮箱:gaochanggong@szw.org.cn