中国科普网独家解密ChatGPT热潮背后的冷思考它是否真的在一本正经地胡说八道

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否有可能取代记者的角色?对ChatGPT未来发展的态度又该如何界定?为了深入探讨这些问题,我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访。他从人工智能的角度,为我们揭开了ChatGPT背后的神秘面纱。

专家简介

曹立宏,中国传媒大学脑科学与智能媒体研究院院长、博士生导师,以其在类脑智能和计算领域的卓越贡献闻名于世。他还担任中国传媒大学学术委员会副主任,并是中国人工智能学会第八届理事会理事以及教育部科技委员会的人工智能与区块链技术专委会委员。

“ChatGPT使用感不错,但也有不足”

光明网:您对ChatGPT有什么初步印象吗?

曹立宏:相较于前作,感觉确实有了一些进步,尤其是在语言生成方面,它流畅性很强,这说明现在语言处理能力已经得到了提升。不过,对于专业知识的问题,它就显得有些力不从心了。

关于ChatGPT,我认为它利用的是带人类反馈的强化学习,而之前如同预训练模型一样,就像火星上的火山口一般,从未真正地接触过地球上真实世界。它是一个非常具有商业潜力的模式,因为它通过聊天方式吸引人们。但目前似乎存在一个限制,就是内容更新不是特别快。例如,如果问及最热门电视剧,它可能无法准确回答《狂飙》之类,因为这涉及到AI中的遗忘问题,即如何快速学习新知识而不影响已有的信息,这仍然是AI领域需要解决的问题之一。

此外,由于缺乏概念性的体验,我们所说的常识实际上是一种积累在生活环境中的人类理解,比如重力等。在自然语言处理中,“理解”仅限于文本,是一种表面的理解。

关键词:《狂飙》,灾难性遗忘,常识,具身体验

“记者被替代可能性并不高”

光明网:作为一名记者,被替代的风险有多大?

曹立宏:我认为这个担忧并不需要过分考虑。首先,一位记者的核心能力是提出基于深入理解的问题。而且,与情感系统无关,这也是记者的重要特征。而快速适应新的情况或人物特质,在采访过程中甚至可以迅速了解到,这些都不是当前机器能够实现的事物。

关键词:记者,深度理解,提问

“更多只是辅助工具”

光明网:“穿着AI马甲”,你觉得这种说法怎么解释呢?

曹立宏:“近年来自然语言处理取得巨大进展,不少学生倾向于追随这一方向,但作为科研人员,我们还是持保留态度,因其对于专业领域的问题回答往往是不准确或过时。这就是为什么我说它只不过是一个穿戴着深度学习外壳的小玩意。”

关键词:辅助工具

“未来需警惕滥用”

光明网:“未来如何看待ChatGPT?”

曹立宏:“我的观点是这样的,有两条路径。一种是继续沿用现有的深度学习技术,其本质依赖人工神经元模型构建网络并采用反向传播算法。但这与生物大脑结构和学习算法差异巨大,因此即使顶尖科学家也正在寻找更接近生物的大脑模型。此次操作相当于是动脉手术般复杂。

另一种路径则是在模仿大脑思维,从根本上改变量化方式,使之更符合人类的大脑存储、量化和学习机制,也许能演变出更加接近人的聊天伙伴。

将来人们会喜欢使用这样的工具,但如果缺乏对它们极限能力判断的话,将导致滥用问题重大。”

猜你喜欢