南韓即日起實施《AI基本法》,成為全球首個正式生效並落實全面監管人工智能法例的國家。該條法例規定企業必須確保在核能安全、交通運輸、醫療保健等多個「高影響力」領域中,使用的人工智能具備人類監督,當中包括規定相關企業以人工智能提供產品或服務時,必須事先告知用戶,而如果人工智能生成內容與現實難以區分,亦必須清楚標明;海外企業亦需在南韓設立代理,以便問責。
南韓政府正式推出被稱為全球首套「全面性人工智慧監管法規」的《AI基本法》,是希望藉此強化人工智慧產業的安全與信任基礎,並將南韓打造為全球前三大AI強國之一。不過,這項新法律的實施也引發了新創企業界的擔憂,他們擔心過高的合規成本可能會抑制創新活力。

路透社報導,南韓《AI基本法》推行速度甚至比歐盟《AI法案》還快,後者仍將分階段推動至2027年,目前,各國在AI監管上的路線分歧。美國傾向採取較爲寬鬆的監管方式,以避免扼殺創新,中國大陸則已推出部分規範,並倡議成立全球性協調機制。
根據南韓新法,企業在「高影響性AI」領域必須確保有人類監督機制,相關應用涵蓋核能安全、飲用水生產、交通運輸、醫療照護,以及信用評分、貸款審核等金融用途。
法規也明文要求,企業必須事先告知使用者,他們的產品或服務涉及高影響性或生成式AI。此外,當AI所產出的內容難以與真實內容區分時,必須清楚地標示為AI生成的內容。南韓科學技術情報通信部表示,這套法律架構的設計目標,將在推動AI應用的同時,建立安全與信任的制度基礎,該法案歷經廣泛諮詢後完成,政府也將提供至少一年的緩衝期,在此期間不會對違規企業處以行政罰則。
不過,一旦正式開始實施行政處分,罰則並不輕。例如,未依規定標示生成式AI內容,最高可處3000萬韓圓(逾2萬美元)罰款。然而,與之相比,歐盟的罰則顯得更為嚴格,輕微違規可能會被處以全球營收1%的罰款,而嚴重違反高風險AI禁令的行為,最高則可能被處以全球營收7%的罰款。

