據(jù)路透社報道，微軟、谷歌以及OpenAI等16家全球科技巨頭在5月21至22日舉行的“人工智能（AI）首爾峰會”上，公開表態(tài)承諾進行AI模型的安全開發(fā)，并在無法有效控制最極端風險時，對其尖端系統(tǒng)進行關閉。

此次峰會上，與會公司還包含了中國本土的科技力量如智譜AI（IT之家備注：騰訊、阿里、美團和小米曾對其投資）、IBM、亞馬遜、Meta及三星等知名企業(yè)。

此外，這些公司在會議中就安全性問題達成共識，包括發(fā)布明確的評估框架，用以衡量模型可能帶來的風險。若風險嚴重且無法承受，人工智能公司將被迫按下緊急停止按鈕，暫停模型和系統(tǒng)的開發(fā)或部署。

然而，這并非人工智能行業(yè)首次提出此類看似高尚卻缺乏實際約束力的安全承諾。早在去年，亞馬遜、谷歌、Meta及微軟便已簽署由美國政府推動的自愿保障措施，以確保其產(chǎn)品在上市前具備足夠的安全性。

盡管如此，被譽為“人工智能教父”的計算機科學家約書亞·本吉奧對此類承諾表示歡迎，同時也強調(diào)自愿承諾需伴隨著嚴格的監(jiān)管機制。