紐約聯邦檢察官根據新頒布的《撤下法案》，起訴兩名男子涉嫌利用人工智能製作女性名人的深偽色情內容。此案為該法案生效後首批起訴案件之一，被告最高可面臨兩年監禁。
- 被告身份：51歲的香農（Cornelius Shannon）與20歲的埃爾南德斯（Arturo Hernandez）。
- 涉嫌罪行：利用AI製作女性名人、政治人物及私人女性的裸體影片和照片，並在網上發布。
- 法律依據：《撤下法案》（Take It Down Act），旨在加重對AI深偽內容和「報復式色情」的處罰。
- 潛在刑罰：根據新法律，最高可判處兩年監禁。
新法首例起訴 劍指AI濫用
根據刑事起訴書，51歲的香農與20歲的埃爾南德斯於週二被捕，他們被控製作的人工智能色情內容在網上獲得數百萬次觀看。兩人是首批根據《撤下法案》（Take It Down Act）被起訴的被告之一。該法案由美國總統特朗普於去年簽署成為法律，獲得兩黨支持，旨在遏止深偽色情內容的傳播。
布魯克林聯邦檢察官約瑟夫·諾切拉在聲明中表示，兩名男子「使用尖端數碼技術製作貶低和侵犯」數十名女性的圖像，並強調「此案清楚表明，發布深偽色情內容並非無受害者的罪行。」
被告行為細節與受害者範圍
起訴書指出，居於新澤西州的香農發布了至少240個人工智能生成的色情相冊，內容涉及女性政治人物、音樂家和歌手。而來自德州的埃爾南德斯所發布的深偽內容，不僅包括名人，還涵蓋了私人女性，甚至有剛畢業的高中生。
隨著生成式人工智能工具日益精密，網上傳播的色情深偽內容（常涉及未成年人）引發了廣泛警覺，此次拘捕行動正是在此背景下展開。兩名被告的律師未有即時回應置評請求。
相關案例與社會警覺
這並非首宗與AI生成不雅內容相關的法律案件。上月，一名俄亥俄州男子承認使用AI生成兒童性虐待材料，成為首位根據《撤下法案》被定罪的人。今年三月，賓夕法尼亞州兩名青少年因製作同學的露骨AI圖像而被判緩刑。此外，田納西州三名青少年亦對伊隆·馬斯克旗下的xAI公司提起訴訟，指控其Grok工具將他們的真實照片扭曲為露骨圖像，並正尋求集體訴訟地位。
來源：美聯社
封面來源：非事件圖片。Adobe Stock