歐盟委員會周二公布指導方針，一些被認為過於危險的人工智能（AI）系統，包括大規模監控、情感識別、社交評級等應用軟件，現已在歐盟被禁止使用。
歐盟去年通過有關人工智能的開創性立法，作為法規中的 “禁令 ”部分已於這個周日率先生效，這在全世界尚屬首次。但這些禁令要到8月2日才會實施，也就是成員國指定本國監管機構監督這些高科技系統的最後期限。
該法規旨在限制濫用，同時鼓勵歐洲的創新。據歐洲行政部門的一位高級官員稱，本周二公布的指導方針旨在為應用程序的 “供應商 ”和監管機構提供 “法律保障”。
歐盟立法根據風險程度對應用系統進行分類。本周二公布的詳細內容只涉及那些被認為危險到需要禁止的工具。如果出現違規行為，供應或實施被禁人工智能的企業可能面臨最高 3500 萬歐元的罰款，如果是公司，則最高罰款額將達到其全球最高營業額的 7%。
歐盟委員會確定了八種禁用的人工智能系統：
在公共場所使用攝像頭實時識別個人身份：歐盟禁止在商業街使用裝有實時面部識別技術的攝像頭來識別被通緝者。在這裡，”實時 “的概念至關重要。不過，某些諸如反恐等特別執法任務，可做例外處理。
基於與評估風險無關的個人數據進行社會評級：一個組織不能使用人工智能應用程序，根據人們實施福利欺詐的可能性，使用與背景無關的個人數據（如出身、膚色或在社交網絡上的行為）對人們進行分類。因此，在評估拖欠貸款的風險時，只能考慮財務數據。
根據生物識別數據評估個人的犯罪風險：警方不能僅根據面部特徵等個人特徵，而不考慮與其行為直接相關的客觀且可核實的事實，就使用人工智能預測個人的犯罪行為風險，如參與暴亂或實施襲擊的可能性。
通過人臉識別系統創建人臉數據庫：禁止使用工具在互聯網上不加區分地搜索和提取人臉照片，以建立包含數十億張圖像的大型數據庫，這無異於國家監控。
工作場所或教育機構中的情緒識別：一個組織不得使用網絡攝像頭或語音識別系統來檢測其僱員的情緒。
利用人工智能操縱人們的行為：禁止在界面設計中加入欺騙性或潛意識的人工智能系統，以誘導用戶進行購買。
利用與年齡或殘疾有關的弱點：一種包含人工智能並設計用於與兒童互動的玩具，如果其設計目的是保持兒童的注意力並鼓勵他們參與可能會傷害他們的危險挑戰，則該玩具將被禁止使用。
基於生物識別數據推斷政治觀點或性取向：一種聲稱可以根據面部分析猜測人們的政治觀點或性取向的系統將不被歐盟允許使用。
轉載自《法廣》
