意大利巴里（AP）—教宗方濟各星期五挑戰世界富裕民主國家的領導人，在開發和使用人工智能時將人的尊嚴放在首位，警告說，這種強大的技術可能將人類關係本身變成純粹的演算法。
方濟各發揮其道德權威，應邀由主辦方意大利在他們年度峰會上的一個特別會議上發表一篇關於人工智慧的危機和潛力的演講。他成為首位受邀出席G7峰會的教宗，對一個越來越多在國際峰會、政府政策和企業董事會議程上出現的問題提出了倫理見解。
方濟各說，政治家必須帶頭確保人工智能始終以人為中心，以便關於何時使用武器或甚至非致命工具的決定始終由人類而非機器作出。
“如果我們剝奪人們對自己和自己生活做出決定的能力，使他們注定要依靠機器的選擇，我們將譴責人類走向沒有希望的未來，”他說。“我們需要確保和保障一個適當的人類控制空間，讓人工智能程序所作出的選擇受到適當的人類控制：人的尊嚴本身取決於此。”
方濟各正在加入一系列推動更強保障措施的國家和全球機構，這是由OpenAI的ChatGPT聊天機器人啟動的生成式人工智能激增引起的。
這位來自阿根廷的教宗今年利用他的年度和平信息呼籲制定一項國際條約，以確保人工智能得到合道發展和使用。他認為，缺乏人性價值、同情心、慈悲、道德和寬恕價值的技術過危險，若無節制地發展。
他在星期五的演講中沒有明確重申這一呼籲，但他清楚表明政治家負有責任。他呼籲他們最終禁止使用致命的自主武器，俗稱“殺人機器人”。
“沒有機器應該選擇奪走人類的生命，”他說。
他向座桌周圍的領導人發出：“每個人都應善用（人工智能），但責任在政治界營造這樣的良好使用條件是急需的並有效果的。”
意大利總理賈奧吉亞·墨洛妮邀請了方濟各並宣布他的參與，懂得他的明星效應和他的道德權威對G7的潛在影響。座桌上的人看起來對此感到敬畏，當方濟各到達時，房間裡的喧囂噪音完全安靜下來。
“教宗是一種非常特別的名人，”多倫多大學政治科學家兼G7研究小組智庫主管約翰·柯頓說。
柯頓回想起上次有這種明星力量的峰會是2005年在蘇格蘭的格倫伊戈爾斯舉行的。當時，世界領導人決定減免18個世界最貧窮國家對世界銀行和國際貨幣基金組織機構許的400億美元債務。
該峰會前由布灣演唱會在倫敦舉行，演出人包括史汀、The Who樂隊和一個改組的粉紅佛派樂隊，吸引了一百多萬人以展示對非洲飢饉和貧困的團結支持。
“格倫伊戈爾斯實際上打了一個全壘打，對一些人來說是最成功的峰會之一，”柯頓說。
在普利亞地區，並沒有對G7領導人加諸這樣的民意壓力，但方濟各知道他可以運用自己的道德權威來重申對人工智能的保障需求以及突顯如果人類倫理被忽略對和平和社會構成的威脅。
“談論技術即談論什麼是人類，因此談論我們作為同時擁有自由和責任的存在者的獨特地位，”他說。“這意味著談論倫理。”
生成式人工智能技術以其生產類似人的回應的能力讓世界炫目，但也引發了對人工智能安全的擔憂，並促使各種全球努力加以約束。
一些人擔心人類因其創造新的生物武器和大幅推動虛假信息而面臨遙遙控制的災難性風險。其他人擔心的是，通過導致歧視或消除就業機會的演算偏見等每日生活中的效應。
