科技公司背后的魔力ChatGPT热潮中的冷思考它可能正在一本正经地编造谎言

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否能够取代记者的角色?我们应该如何看待ChatGPT的未来发展?为了探讨这些问题,我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,他从人工智能领域深入分析了ChatGPT。

专家简介

曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师,同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要致力于类脑智能和计算研究。

使用感受:“ChatGPT感觉不错,但也有不足”

光明网:您对ChatGPT有何看法?它存在哪些显著不足?

曹立宏:相比之前的版本,感觉确实有所提升,尤其是在对话流畅性方面,它表现得很出色。这说明现在语言生成模型方面取得了一定的进步。不过,对于专业性的问题,它就显得有些力不从心。

关于ChatGPT的一点限制是内容更新不是特别快。例如,如果你问它当前最热门的电视剧,它可能无法准确回答,因为这涉及到AI中的一个普遍现象——灾难性遗忘,即如何让系统快速学习新知识而不会影响旧知识,这仍然是一个未解决的问题。此外,作为一种没有体验概念(common sense)的工具,它缺乏人类生活中的全方位理解能力。在自然语言处理中,“理解”仅限于文本,而非具身经验。

图片由百度文心大模型 AI 生成

关键词:《狂飙》,灾难性遗忘,常识,具身体验

被替代可能性:“记者工作面临较小威胁”

光明网:作为一名记者,被替换为ChatGPT的情景,您认为可能性有多大?

曹立宏:目前我并不担忧这个风险。首先,记者的核心功能在于深度理解,并提出相关问题。而这一点上,ChatGPT尚未达到标准。此外,由于其缺乏情感反应能力,使得在采访过程中进行深层次了解变得困难。而且作为记者需要快速适应变化,这种能力目前还不能完全由机器模仿。

图片由百度文心大模型 AI 生成

关键词:记者,大众化,不足之处

辅助作用:“更多只是一个辅助工具”

光明网:您曾经评论说“不要把 Chat G PT 看成 AI 就好”,这意味着什么?

曹立宏:尽管自然语言处理领域取得了巨大的进展,但我们科研人员对此持保留态度。因为即便拥有强大的算法,如同穿上了AI的大衣,其本质并非真正的人类智慧。在某种意义上,他们能提供大量信息,但对于复杂的问题时常表露出“一本正经”的胡言乱语。

图片由百度文心大模型 AI 生成

关键词:辅助工具、自由搜索引擎、高效率

未来趋势:“需警惕滥用潜力”

光明网:您如何评价 Chat G PT 的未来?

曹立宏:"我相信 Chat G PT 可以成为人们喜爱使用的一个工具。我也将继续使用它。但如果忽视其极限,就容易被滥用,从而导致严重后果。"

"未来开发路径之一是更接近生物大脑思维方式,那样才可能创造出更加高效的人工智能。但另一条道路则是不断完善现有的技术,以提高性能。两条路径都充满挑战,但如果过分乐观或忽略潜在危险,将不可避免地造成负面影响。”

图片由百度文心大模型 AI 生成

关键词:发展路径、大脑思维方式

猜你喜欢