编辑:Britta 好困【新智元导读】OpenAI联合创始人Greg Brockman和首席科学家Ilya Sutskever对GPT-4的性能进行了详细评价,并深入探讨了安全问题以及关于开源的争议。毫无疑问,GPT-4自发布之日起,就在整个行业和学术界中引发了一场激烈的讨论,主要集中在其强大的推理能力和多模态处理功能上。然而,这款模型并不是一个完全开放的系统。
英国人工智能政策负责人Jess Whittlestone指出,平衡这些不同方面带来了极为严峻的治理挑战。这意味着我们可能需要第三方监管机构介入,以确保公平与透明。此外,她还提出了一个重要的问题:“OpenAI不分享有关GPT-4更多细节的初衷是正当,但这也可能导致人工智能领域权力集中化。”Whittlestone强调,“这样的决定 shouldn't be made by individual companies alone.”
她认为“理想情况下,我们应该将这些做法规范化,然后由独立第三方审查相关模型所承担风险。”通过这种方式,我们可以更好地控制技术发展方向,同时保障公众利益。参考资料:
https://techcrunch.com/2023/03/15/interview-with-openais-greg-brockman-gpt-4-isnt-perfect-but-neither-are-you/
https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview