科技画中游ChatGPT热背后的冷思考它在一本正经的幻觉世界里跳跃

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制究竟是什么?能否替代记者的角色?对ChatGPT未来发展的态度又该如何界定?为了深入探讨这些问题,我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访,结合人工智能视角剖析ChatGPT。

专家简介

曹立宏教授是中国传媒大学脑科学与智能媒体研究院的创始人之一,他致力于神经计算和类脑智能等领域的研究。

“ChatGPT使用体验很不错,但仍有不足之处”

光明网:您对ChatGPT有什么具体感受呢?它在哪些方面做得好,又有哪些需要改进?

曹立宏:相比之前版本,ChatGPT确实取得了显著提升,其语言生成能力尤其突出。在处理常见知识或浅显专业内容时,它表现良好。但当涉及到更为专业或复杂的问题时,ChatGPT便开始出现局限性。

虽然基于人类反馈强化学习,它能够提供流畅且组织逻辑清晰的回答,这种商业模式也颇受欢迎。然而,目前存在一个问题,即内容更新速度较慢。这就导致了AI中的“灾难性遗忘”问题,即如何快速学习新信息而不影响旧知识,这仍然是一个未解决的问题。此外,由于缺乏具身体验,对概念理解仅依赖文本,是一种表面的理解方式,而不是人类深刻理解的一部分。

图片由百度文心大模型 AI 生成

关键词:《狂飙》,灾难性遗忘,常识,大型数据集

“记者角色可能不会被完全取代”

光明网:作为一名记者,你认为被替代的可能性有多高?

曹立宏:我认为现在还不用担心,因为记者的工作需要的是深入了解和提出深层次问题,这些都是当前AI尚未掌握的情况。而且,记者还需快速适应变化,因此即使AI可以帮助记录一些基础事实,但对于情感分析、个性化采访以及快速学习新信息,都超出了当前技术范畴。

图片由百度文心大模型 AI 生成

关键词:记者角色,不可取代

“更多只是辅助工具”

光明网:“穿着AI马甲”,不要将其看作真正的人工智能,我觉得这是什么观点?

曹立宏:自然语言处理领域确实取得了一定的进步,但作为科研人员我们还是持有一定的保留态度,因为这些系统往往会在专业领域胡说八道。因此,我们应该认识到它更多只是一种辅助工具,并非真正意义上的科学思考手段。如果将其当作导向式工具,那么可能会带来严重的问题。我所说的这几句话,就是要提醒大家不要把这种技术简单地看待,要看到其潜在风险和限制。

图片由百度文心大模型 AI 生成

关键词:辅助工具,一本正经胡说八道

“警惕滥用趋势”

光明网:“未来怎么看待chatgpt?”

曹立宏:“我认为chatgpt有两条发展路径。一是继续优化现有的深度学习算法;二是尝试模仿生物大脑结构来构建更接近人类思维方式的人工智能。不过,无论哪条路径,最终目标都应当是建立一个既能效率高又能安全运用的系统。如果没有这样的警觉意识的话,将来如果这个系统被滥用,那将面临巨大的挑战。”

猜你喜欢