3月30日，360集团创始人、董事长周鸿祎在微博发文称，昨天，以马斯克为首的科学家给美国政府写请愿信，要求暂停GPT-5的研发，担心它“对社会和人类构成潜在风险”。我认为这不影响中国发展自己的大语言模型，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距。现在担心风险为时尚早。不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。我自己是做安全的，但我坚定地认为，不发展才是最大的不安全。
日前，由图灵奖得主、深度学习三巨头之一约书亚·本吉奥(Yoshua Bengio)，埃隆·马斯克，《人类简史》作者尤瓦尔·赫拉利等人联名发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。暂停工作应该是公开且可以证实的，如果AI实验室不能快速暂停，各国政府应该实行暂停令。他们在公开信中呼吁暂停高级人工智能开发，直至此类设计的共享安全协议经由独立专家开发、实施和审核。此外，他们还在信中呼吁开发人员与政策制定者就治理和监管进行合作。
此外，签名人还包括苹果联合创始人史蒂夫·沃兹尼亚克、2020年美国总统选举民主党初选候选人杨安泽、AI经典教科书《人工智能：一种现代方法》作者Stuart Russell、AI领军公司DeepMind的一众研究人员等。
文章评论