人工智能（AI）可加速科研、協助處理日常事務，但當AI代理獲得更多自主操作空間，如何確保其行為安全可靠，也成為重要課題。美洲中國工程師學會大紐約分會（CIE-USA，簡稱大紐約中工會）昨（25）日在皇后區法拉盛舉行2026年年會，吸引逾200名科技界、社區人士及在校學生參與，探討AI帶來的機遇與風險。
年會分為科技論壇與晚宴，前者邀請學者及業界人士，討論AI對教育、就業、醫療及社會治理的影響；晚宴則表揚四位華人工程科技人才。
大紐約中工會會長王可言表示，希望藉活動為科技界、企業界及其他行業搭建交流平台，共同探討人工智能帶來的機遇與挑戰，以及如何建立更明確的安全規範與防護機制，推動負責任的技術應用。
今年大會以「人工智能時代的數位新政」（A Digital New Deal for the AI Era）為主題。科技論壇於上午11時30分至下午6時舉行，設有主題演講、專家對談及分組討論，議題涵蓋AI如何重塑工作與教育、下一代網絡連接技術、精準腫瘤學與生物醫學，以及AI治理、信任與金融未來。現場亦有人工智能機器人展示，吸引不少與會者駐足觀看。
西奈山醫學院副教授黃冠霖（Kuan-lin Huang）表示，給予AI代理更多自由，可能增加研究過程的不確定性，也可能帶來意料之外的發現；若設定明確的目標與限制，則可協助開發軟體、提升分析效率，為生物醫學研究帶來實質幫助。他指出，AI代理亦能讓大規模分析更貼合不同疾病的特性。傳統標準化流程雖可處理大量資料，卻未必充分考慮不同疾病之間的差異。電腦可負責大規模分析，AI代理則可提醒研究人員，在分析乳癌、肺癌等不同疾病時，各自需要納入哪些考量因素。
哥倫比亞大學電腦科學副教授Eugene Wu則指出，AI擅長搜尋資訊、進行推理及生成內容，但當AI代理能夠代替使用者採取行動時，便需要相應的安全機制，防止其進入不安全的操作範圍。
他以購物情境為例，使用者原本只要求重新購買一件上衣，AI代理卻可能在讀取電郵驗證碼時，受到廣告內容影響，轉而購買其他商品，偏離使用者原本的要求。
因此他提出，應如何建立適合AI代理運作的環境、這類環境需要具備哪些能力，以及如何從設計之初就讓AI代理更加安全可靠，都是有待研究的問。
本報記者王冰岩紐約報道
