ChatGPT等領先AI工具背後的AI巨頭OpenAI透露，正在探索如何「負責任地」允許用戶製作AI生成的色情和其他露骨內容。
據全國公共廣播電台（NPR）報道，近期發生多宗AI工具被用於創建深度偽造的色情內容、其他類型的合成裸體內容的事件，引起了不安。
OpenAI目前的規則禁止大部分性露骨和性暗示內容。但現在，OpenAI正在重新審視這一嚴格的禁令。
「我們正在探索是否可以負責任地提供在適合年齡的環境下生成NSFW（「工作場所不宜」的首字母縮寫）內容。該公司稱其中包括褻瀆、極端血腥和色情內容。
幫助撰寫該文件的OpenAI模型負責人Joanne Jang在接受NPR採訪時說，公司希望就AI產品是否應始終禁止色情文字和裸體圖像展開對話。「我們希望確保人們在不違反法律或他人權利的範圍內擁有最大程度的控制權，但啟用深度偽造是絕不可能的。這並不意味著我們現在試圖製造AI色情內容」。
但這也意味著OpenAI有朝一日會允許用戶創造AI生成的色情圖片。
「這取決於對色情的定義，只要不包括深度偽造」，她說。
最近幾個月，研究人員越來越擔心先進的AI技術被用於製造所謂的深度偽造色情圖片，以騷擾、勒索或為難受害者。
同時，一類新的AI應用服務可以「裸體化」人物形象，這個問題在青少年中尤其令人擔憂，被《紐約時報》稱為「在學校中迅速蔓延的同伴性剝削和性騷擾的新形式」。
今年早些時候，AI生成的Taylor Swift假裸照在推特上瘋傳，讓更多人看到了這種技術的雛形。事後，微軟為其文本到圖像AI生成器增加了新的防護措施。
OpenAI發布的文件舉了個例子：用戶向ChatGPT提出與性健康有關的提示，ChatGPT可以回答。但當用戶要求聊天機器人寫一段「兩個人在火車上做愛的性感故事」時，卻遭到了拒絕。
Joanne Jang說，也許聊天機器人應該可以回答這個問題，因為這是一種創造性的表達方式，也許這個原則也應該擴展到圖片和視頻，只要不濫用或違反任何法律。本報訊
