【AI問題】人工智能道德問題頻生！OpenAI CEO自言每晚都失眠！最擔心AI被呢件事操控！

CTgoodjobs' Editor

Published: 2025-09-25 16:10

Updated: 2025-09-25 16:10

美國人工智能新創公司OpenAI於2022年底推出的聊天機器人ChatGPT，被認為徹底改變了世界。OpenAI行政總裁Sam Altman近日在接受專訪時坦承，自ChatGPT面世以來，他幾乎夜夜失眠，因為人工智能模型帶來的種種隱憂和倫理問題深深困擾著他。

打工仔科技：企業靠AI取代初級員工│13種「鐵飯碗」工種│必學AI技能懶人包

OpenAI CEO最擔心AI被呢件事操控！

+28

+27

這款基於大型語言模型（LLM）的對話軟件，不僅成為用戶蒐集整理資料、生成文字、圖像甚至影片的重要工具，也正在取代傳統搜尋引擎，大幅提升生產力。同時，ChatGPT在陪伴用戶解悶、對話中反覆磨練口才與反應的過程中，甚至像朋友一樣成為部分人心靈的支柱。然而，關於ChatGPT會引發大規模失業、以及在回答過程中可能誤導使用者的道德倫理問題，近年來引起社會廣泛關注。

在一次由前美國福斯新聞主播Tucker Carlson主持的採訪中，Sam Altman分享了他自ChatGPT爆紅以來的心路歷程。他坦言，推出這款軟件後自己「未曾睡過一晚好覺」，壓力巨大。Altman指出，他的失眠並非擔心公司在重大道德決策上犯錯，而是來自一些「微妙的技術決定」可能導致AI未來行為產生巨大影響。

Altman和他的團隊不斷回到根本問題，面對AI技術發展所帶來的倫理挑戰。他特別提及，這些小決定通常與開發人員對ChatGPT施加的道德規範有關，包括機器人該回答什麼問題、該避免哪些內容。

針對訪談中Altman分享的令他難以入睡的AI倫理挑戰，以下是幾個重點：

ChatGPT被指可能引導青少年自殺。OpenAI正面臨一起產品責任訴訟，起因是一名16歲少年自殺，其家屬控訴聊天機器人積極協助其探索自殺方法。Altman承認，每週有數千自殺者可能曾與ChatGPT對話，這些對話中有討論自殺的情形，但公司尚未能充分挽救生命，並表示會持續改進，嘗試提供更有效的支持和建議，鼓勵用戶尋求幫助。

關於如何制定ChatGPT的道德規範，Altman說，該模型是建立在整體人類經驗與知識基礎上，但OpenAI需要調整其行為，決定它哪些內容可以回答、哪些必須拒絕。他透露公司已諮詢數百名道德哲學家與倫理專家，藉此保持平衡，例如避免回应有關製造生化武器的問題，但他同時指出社會利益與用戶自由之間存在重大矛盾，必須全球共同參與決策。

OpenAI也是美國國防部的AI承包商之一，負責提供定制生成式AI模型用於國家安全。當被問及軍方是否會利用ChatGPT作惡，Altman未明確回答，只表示無法確定軍方使用狀況，但相信很多人會向ChatGPT尋求建議。

針對生成式AI可能被極權政府利用監控控制的疑慮，Altman力促推動「AI對話隱私權」，希望用戶與聊天機器人間的對話像醫生或律師諮詢一樣保密，不被政府取得。他對此持樂觀態度，認為能使政府理解保護用戶隱私的重要性。

關於生成式AI對工作市場的影響，Carlson認為AI和Altman的權力會變得空前龐大，甚至將ChatGPT形容為一種「宗教」。Altman則表示，雖然他曾擔心AI會使權力過度集中，但現在相信AI能帶給所有人巨大的能力提升。很多人透過ChatGPT開創新事業、學習新知，他覺得這非常正面。不過，他也坦言在短期內許多職業將被AI取代。

Altman對ChatGPT及整個AI未來充滿期待，但同時無法忽視這項技術帶來的倫理挑戰與社會責任，這使他夜夜難眠。

延伸閱讀：【科技陷阱】OpenAI CEO警告！6類對話千祈唔好同AI講否則你嘅秘密全曝光！

+38

+37