科技发展论文ChatGPT热背后的冷思考它可能在一本正经地胡说八道

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否能够取代记者的角色?我们应该如何看待ChatGPT的未来发展?为了探讨这些问题,我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,他从人工智能领域深入分析了ChatGPT。

专家简介

曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师,同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要致力于类脑智能和计算研究。

使用感受

谈及对ChatGPT的使用体验,曹立宏表示,它相比以往的语言模型,如GPT3,确实有所提升。特别是在对话流畅性方面表现出色,这说明其语言生成能力得到了显著改进。不过,对于专业性较强的问题,ChatGPT仍存在不足。例如,对于新兴知识点,它可能无法快速适应或更新,这涉及到AI中的“灾难性遗忘”问题,即如何平衡学习新信息而不影响原有知识储备。

具身体验缺失

曹立宏指出,人类理解世界不仅仅依赖文字,还包括感官体验,如触摸、嗅觉等。这是人类独有的“常识”,在自然语言处理中,被认为是肤浅的理解。而对于一个物体,看似简单却可能包含复杂的情感和经验,只有通过多种感觉来理解才能真正掌握。

记者替代可能性

面对被替代记者的担忧,曹立宏认为目前还不是太需要担心。记者之所以重要,是因为他们能基于深度理解提出问题,而这仍然超出了当前AI技术范围。此外,记者需要快速学习和洞察人物特质,这些都是机器目前无法做到的功能。

辅助工具而非核心科研工具

关于将ChatGPT视为科研方向的问题上,曹立宏表达了一定的担忧。他认为虽然自然语言处理取得了重大突破,但作为科研人员要小心不要把它当作最终解决方案,因为它在专业领域内仍可能产生错误信息。在他看来,将其视为辅助工具更合适,以提高效率并提供基础数据支持,而不是直接用于深层次科学思考。

未来需警惕滥用风险

最后,当谈及未来的发展时,曹立宏提醒人们注意潜在风险。如果缺乏对其极限能力判断,不加以控制的话,上述滥用带来的后果将非常严重。他建议继续追求更接近大脑工作方式的人工智慧模型,并警惕过度乐观地接受任何新技术,从而保证安全可控地利用它们进行创新进步。

猜你喜欢