编辑:Britta 好困【新智元导读】OpenAI联合创始人Greg Brockman和首席科学家Ilya Sutskever对GPT-4的性能进行了详细评价,并深入探讨了安全问题以及关于开源的争议。毫无疑问,GPT-4自发布之日起,就在整个行业和学术界中引发了一场激烈的讨论,主要集中在其强大的推理能力和多模态处理功能上。然而,这款模型并不是一个完全开放的系统。
英国人工智能政策负责人Jess Whittlestone指出,平衡这些不同方面带来了极为严峻的治理挑战。这意味着我们可能需要第三方监管机构介入,以确保公平与透明。此外,她还提出了一个重要观点:“虽然OpenAI不分享关于GPT-4更多细节是出于好意,但这也可能导致人工智能领域权力集中化的问题。而且,这些决定不应该由单一公司来做决策。”
Whittlestone继续阐述:“理想的情况是,我们应该将这些做法规范化,然后由独立第三方进行审查,以评估相关模型所承载风险。”通过这种方式,我们可以更好地理解、管理并利用这些技术,同时保障用户隐私及数据安全。
参考资料:
https://techcrunch.com/2023/03/15/interview-with-openais-greg-brockman-gpt-4-isnt-perfect-but-neither-are-you/
https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview