紐約市有學校在課堂中引入人工智能（AI），以協助學生識別該技術的偏見和潛在風險，當中包括討論有缺陷的面部識別算法，及培養學生以批判思維理解電腦演算法。
《紐約時報》報道，布朗士的青年女性領導學校（TYWLS）有近550名學生，當中大多數是拉丁裔或非裔。近日有電腦課引入了聊天機械人ChatGPT，依靠人工智能生成課程材料。結果學生的評論是資料雖然簡單，但平淡且存在偏見。此外，學生還閱讀了一些社交媒體帖子，認識聊天機器人可能生成宣揚仇恨和暴力的文字。
該校另一門軟件工程課程，透過實踐向學生介紹編碼、解決電腦問題，以及探索技術創新對社會的影響。課程包括要求學生考慮流行的電腦演算法，而技術往往由白人和亞裔男性組成的科技公司團隊開發，可能對移民和低收入社區等群體產生不同的影響。
其中一堂課的主題是介紹人臉辯識系統，稱可能難以識別膚色較深人士，而其算法在識別白人面孔時更準確。老師哈恩（Abby Hahn）向學生表示，錯誤的面部識別技術，可能會導致非裔男子被錯誤逮捕。
哈恩又播放了一段YouTube 視頻，該視頻由電腦科學家布蘭維尼（Joy Buolamwini）2018年創作，展示部分面部分析系統結如何把奧巴馬夫人米歇爾（Michelle Obama）、名嘴奧花雲費（Oprah Winfrey）錯誤地識別為男性。學生透過這堂課，認識到電腦演算法可能存在缺陷及偏見，並鼓勵他們關注問題。
本報訊
