创新启航ChatGPT热潮背后的冷思考它是否真的在正经地胡说八道

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否有可能取代记者的角色?我们应该如何看待ChatGPT未来的发展趋势?为了探索这些问题,我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行深入交流。

专家简介

曹立宏是中国传媒大学脑科学与智能媒体研究院的创始人,他致力于人工智能领域特别是类脑计算和智能媒体技术的研究。他对ChatGPT持批判态度,认为尽管它在语言生成方面取得了显著进步,但仍存在不足之处。

“ChatGPT使用感不错,但也有不足”

光明网:您对ChatGPT有什么具体印象吗?它有哪些显著不足?

曹立宏:相比之前版本,确实感觉到了改善,尤其是在流畅性上表现得更好。这表明现在的语言生成模式做得相当出色。但对于专业知识,它就开始出现问题了。

他解释道:“我觉得这个工具很好地利用了带人类反馈的强化学习。” “虽然AI已经非常强大,但如果你问它关于最新信息,比如最近最热门电视剧,它可能会回答《狂飙》,但这也涉及到AI中的‘灾难性遗忘’问题,即它们无法快速适应新信息而同时保持旧知识。”

曹立宏还指出了另一个缺点:“人们往往把ChatGPT当作拥有深度理解能力的人,而实际上,它仅仅依赖文本,没有具身经验,这限制了其真正理解世界的手段。”

“记者被替代可能性有限”

光明网:作为一名记者,被替代掉的风险有多高?

曹立宏:目前不必过于担忧,因为记者需要基于深刻理解来提出问题。而且,在情感系统处理中,聊天机器人并不擅长。最后,还有快速学习的问题,这也是人类独有的优势。

“更多只是辅助工具”

光明网:您曾评论说,“穿上了AI深度学习马甲”,意味着什么?

曹立宏:这是因为自然语言处理领域取得了一定的成就。但作为科研人员,我们必须认识到这些技术并不能完全模仿人类思考方式。当你将这些工具视为终极解决方案时,那将是一种误导。因此,我提醒大家不要把这种工具简单地当成是真正的人工智能去看待。

未来需警惕滥用

光明网:那么,您如何看待ChatGPT未来的发展?

曹立宏表示:“我认为未来有一条路径是在继续完善现有的模型。一条路径则是从大脑角度去思考,从根本上改变我们的算法和模型。如果没有这样做的话,将面临巨大的滥用风险。”

猜你喜欢