IT 之家 12 月 20 日音讯开云kaiyun官方网站,以 ChatGPT 等为代表的大型说话模子(LLMs)在已往几年中越来越擅长惩处和生成东说念主类说话,但这些模子在多猛进度上模拟了东说念主类大脑解救说话惩处的神经进程,还有待进一步讲明。
据 Tech Xplore 18 日报说念,哥伦比亚大学和费因斯坦医学征询所的征询团队近期进行了一项征询,探索了 LLM 与大脑神经反应的相似性。征询标明,跟着 LLM 本领的跨越,这些模子不仅在性能上有所普及,何况结构上也越来越接近东说念主类大脑。
论文的第一作家加文・米施勒(Gavin Mischler)在接管 Tech Xplore 采访时默示:"咱们撰写这篇论文的灵感着手于频年来 LLM 和神经 AI 征询的迅速发展。"
"几年前,有几篇著作炫耀,GPT-2 的词镶嵌与东说念主脑对说话的神经反应有一定相似性,但在东说念主工智能这一赶紧发展的界限中,GPT-2 如今还是过期,算不上最渊博。"
"自从 ChatGPT 发布后,走漏了很多更渊博的模子,但对于这些新模子是否仍然进展出推敲的大脑相似性,相干征询却并未几。"
米施勒过头团队的主要野心,是探究最新一代的 LLM 是否依然进展出与东说念主类大脑相似的特征。征询东说念主员对 12 个不同的开源 LLM 进行了分析,这些模子在架构和参数数目上真是一致。同期,他们也通过在神经外科患者的脑部植入电极纪录其听到说话时的大脑反应。
米施勒阐发说念:"咱们还将雷同的演讲文本输入 LLM,并索取其词镶嵌,这些镶嵌是模子里面用来惩处和编码文本的默示。为了测度这些 LLM 与大脑的相似性,咱们尝试通过预计大脑对词语反应的神经步履来评估它们的对应性。通过这种面孔,咱们不错了解两者的相似度。"
在数据聚集后,征询东说念主员运用狡计器具分析 LLM 与大脑的对皆进度。他们颠倒良善哪些档次的 LLM 与大脑中与说话惩处相干的区域最为匹配。大脑对说话的反应已知会逐渐通过对语音的声学、语音学等因素的分析,缔造说话的综合表征。
米施勒默示:"咱们发现,跟着 LLM 材干的普及,这些模子的词镶嵌与大脑对说话的反应越来越接近。更突如其来的是,跟着模子性能的普及,它们与大脑档次结构的对皆进度也有所提高。这意味着,说话惩处进程中大脑不同区域索取的信息,与性能较强的 LLM 的不同档次索取的信息对比,愈加一致。"
这些征询效果标明,进展最佳的 LLM 更能准确反应大脑的说话惩处反应。何况,这些模子的优秀进展可能与其早期档次的高效性商量。
商量征询效果还是在《当然・机器智能》期刊上发表开云kaiyun官方网站,IT 之家附聚拢:点此赶赴