
IT 之家 12 月 20 日音讯,以 ChatGPT 等为代表的大型言语模子(LLMs)在当年几年中越来越擅所长置和生成东谈主类言语,但这些模子在多猛进度上模拟了东谈主类大脑相沿言语处置的神经经由,还有待进一步论说。
据 Tech Xplore 18 日报谈,哥伦比亚大学和费因斯坦医学磋议所的磋议团队近期进行了一项磋议,探索了 LLM 与大脑神经反应的相似性。磋议标明,跟着 LLM 时间的跳跃,这些模子不仅在性能上有所进步,况且结构上也越来越接近东谈主类大脑。
论文的第一作家加文・米施勒(Gavin Mischler)在给与 Tech Xplore 采访时示意:"咱们撰写这篇论文的灵感着手于比年来 LLM 和神经 AI 磋议的迅速发展。"
"几年前,有几篇著作傲气,GPT-2 的词镶嵌与东谈主脑对言语的神经反应有一定相似性,但在东谈主工智能这一速即发展的领域中,GPT-2 如今一经过期,算不上最巨大。"
"自从 ChatGPT 发布后,清晰了好多更巨大的模子,但对于这些新模子是否仍然发达出疏导的大脑相似性,干系磋议却并未几。"
米施勒过甚团队的主要见地,是探究最新一代的 LLM 是否依然发达出与东谈主类大脑相似的特征。磋议东谈主员对 12 个不同的开源 LLM 进行了分析,这些模子在架构和参数数目上着实一致。同期,他们也通过在神经外科患者的脑部植入电极记载其听到言语时的大脑反应。

米施勒诠释谈:"咱们还将一样的演讲文本输入 LLM,并索求其词镶嵌,这些镶嵌是模子里面用来处置和编码文本的示意。为了推测这些 LLM 与大脑的相似性,咱们尝试通过预计大脑对词语反应的神经举止来评估它们的对应性。通过这种口头,咱们不错了解两者的相似度。"
在数据收罗后,磋议东谈主员行使计较用具分析 LLM 与大脑的对皆进度。他们特地矜恤哪些档次的 LLM 与大脑中与言语处置干系的区域最为匹配。大脑对言语的反应已知会渐渐通过对语音的声学、语音学等要素的分析,设置言语的概括表征。
米施勒示意:"咱们发现,跟着 LLM 智商的进步,这些模子的词镶嵌与大脑对言语的反应越来越接近。更出乎偶然的是,跟着模子性能的进步,它们与大脑档次结构的对皆进度也有所提高。这意味着,言语处置经由中大脑不同区域索求的信息,与性能较强的 LLM 的不同档次索求的信息对比,愈加一致。"
这些磋议效用标明,发达最佳的 LLM 更能准确反应大脑的言语处置反应。况且,这些模子的优秀发达可能与其早期档次的高效性操办。
操办磋议效用一经在《当然・机器智能》期刊上发表2024欧洲杯官网入口,IT 之家附市欢:点此赶赴