EU（欧州連合）のAI法
不透明で過剰なEU立法
AI（Artificial Intelligence 人工知能）は迷惑メールの自動振り分け、機械翻訳、カメラ撮影、クレジットカードの不正利用検知、電子レンジでの自動調理等、様々な用途で使われている。新型コロナウィルスが猛威を振るっていた頃は通行する人々の体温を自動で測定するためAIが活用されていた。中国では犯罪者や不審者を特定するため、顔認証機能が付いたビデオカメラが至るところに設置されており、西側諸国より批判されることも少なくない（参照①、②）。
※ 日常生活におけるAI（欧州議会のサイト）
AIは現代的な生活を象徴する科学技術であるが、その概念はすでに1950年代に考案されている（参照）。もっとも、その長い歴史の中ですでに廃れてしまった存在ではなく、むしろ、これからどのように発展していくか予測しがたい技術である。「知能」を持った機械が暴走し、人類を滅ぼすこともありうる。現在、社会で利用されているAIに危険性は少ないが、将来のことを考慮し、EUは2024年6月、AIの利用を規制する法律を制定した（参照）。
なお、この法律によって規制されるのはあくまでもAIの利用であり、研究開発ではない。市場に投入される前の段階では、研究・開発者の倫理規定が適用されることになる。また、EUは主に経済分野（市場統合）で活動しており、AI法は専らこの分野で適用される。EUではなく、加盟国の管轄事項である軍事・安全保障や治安維持の分野で利用されるAIがEU法によって規制されるわけではない（第1条第3項）。
AI（AIシステム）の概念が確立しているわけではなく、その捉え方は研究者によって異なるが（参照）、EU法は機器がインプットされた情報を処理し、アウトプットするシステムと定義している（第3条第1項）。現在、域内市場で利用されているAIのほとんどは人に危害を加えるものではない。また、将来、そのような状況が生じるか定かではないが、前途が見通せない「暗闇」の状態にあるとされ、警鐘を鳴らすAI研究者も少なくない（参照）。その危険性を予め排除するため、EUは規則を制定した。なお、「ブリュッセルの過剰立法」は度々、批判されている。AI法はまさにその典型例として捉えることができるが、EUはAIのあらゆる利用を規制しているわけではない。むしろ、一般的な利用を保障しており、禁止・制約されるのはEUの基本的価値、つまり、基本権や民主主義、法の支配を侵害するものに限られる。
なお、AI法 は全113条と付属書（全13の付属書）からなり、EUが制定する法としては規模が大きい。また、前文だけでも44頁に及んでおり、規定事項を完全に把握するのは容易ではない。特に、どのようなAIシステムがどのような規制を受けるかは必ずしも明確ではなく、透明性に欠ける。その一方で、日進月歩、開発されている技術に完全に対処できるものでもない。2024年2月、欧州委員会内に専門部署 が設けられたが、規制の詳細について決めるのはこれからである。
1. 制 定
前述したように、AIは真新しい技術ないし概念ではなく、かねてより様々な用途で使われてきたが、2022年11月、ChatGPT が公開されると、「新しい時代」に突入した。なお、この生成AI がもたらす危険性は小さく、利用を規制する必要はないと考えられている。EUはそれ以外のAIを想定し、2018年、立法作業を開始した（参照）。2022年4月、欧州委員会によって作成された 法案 は、翌年12月、立法機関である欧州議会とEU理事会の了承を得た（参照）。2024年3月、欧州議会は圧倒的多数の議員の賛成により法案を採択し（賛成者523人、反対者46人、棄権者49人、参照）、5月、理事会がこれに続いたことを受け、6月、AI法（Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024, OJ 2024 L 144, p. 1）が制定されるに至った。これは史上初の包括的なAI法である。また、AIの利用規制に関し、世界を牽引するというEUの意気込みが表われている（参照）。
なお、この立法作業はAIの利用や危険性に関する市民の関心を高めることになった（頁参照）。つまり、AI法の制定は「上からの啓蒙活動」としての性質が強い。
このEU法は「規則」（Regulation）の形態を採るため、加盟国法に置き換えられることなく、直ちに適用される。つまり、EUのAI法によって国内法は「統一」されることになるが、EU法は国内法の「調整」を謳っている（第40条参照）。実際に、AI法はEUの機能に関する条約第114条（域内市場にかかる国内法の調整）に基づき制定された。もっとも、この法律は世界に先駆け制定されており、EUもそれを自負している（参照）。つまり、調整されるべき加盟国法は存在しない。
第114条と共にEU条約第16条が根拠規定してあげられており、AI法は個人情報の保護を目的とする。
2. 施 行
AI法は2024年8月より施行されているが、実際の適用にはリスクによって違いがある。最も早い2025年2月2日より規制されるのは「許容できないリスクがあるAIシステム」であり、EU内の利用が禁止される。それと同時にAI技術を開発・提供する企業には被雇用者に対し「AIリタラシー教育」を行う義務が課されることになった。ハイリスクがあるAIシステムの利用が規制され、違反者に対して行政罰が科されるのは2027年8月であるが、それまでEU（欧州委員会）はAI法（規制される行為）の運用を明確にし、業者に自主的な法の遵守を求めることになっている。
なお、加盟国は2025年8月までにAI法の実施に必要な行政組織を設けなければならない。
このEU法はEU内でのみ適用されるが、域内市場でAIを用いた機器やサービスを提供する者は、その本拠地を問わず、EU法の規制を受ける。違反した者には行政罰が科される。
3. 内 容
EU法はAIを利用したサービスやシステムを以下の四つの類型に分けている。分類の基準となるのは基本権保護や民主主義の要請に反するか、また、その程度であるが、4番目の「最小リスク」に該当するものは規制されない。なお、EU法が規制するのはAIの利用であり、市場に投入されない研究技術は対象から除外される。また、EU法を遵守しなければならないのはサービス提供者であり、利用者ではない。つまり、生成AIを用い、音声や画像をねつ造しても、AI法に基づき罰せられるわけではなく、偽造やフェイクニュースの流布には他の法律が適用される。
1）許容できないリスクを伴うサービス
基本権を侵害するAI技術、また、人の行動・思想・感情・能力等を評価・判定する技術や、自由意志を制約する技術の利用は許されず、EU内での提供が禁止される。例えば、公の場に顔認証機能付きカメラを設置することや（Social Scoring）、職場や学校で人の思想、感情、知能等を推測・測定するAI搭載機器を利用することは許されない。なお、EU法の遵守が求められるのはAI技術の開発者ではなく、それを搭載した機器を設置・利用する者である。
そもそもEU法は加盟国の軍事・安全保障や治安維持に関する措置に適用されないため、AI法も適用が除外される。そのため、AIが制御しえなくなり、戦争が発生することを防ぐため、規制を強化すべきであるとする意見もあるが、AI法はこの要請に応えるものではない。
また、犯罪捜査に生体認証機能の付いたAI機器を投入することは原則として禁止されるが、裁判所の許可を得て、特定の場所で、一時的に使用することは認められる。
なお、AI法が規制するのは生体認証機能の付いたカメラの利用であり、カメラの設置には他の法律が適用される点に注意を要する。加盟国法が設置を認める場合であれ、AI搭載のカメラの利用は原則として許されない。
また、AI法が規制するのはAIの技術ではなく、その利用形態であり、顔認証機能であれ、危険性がないものは規制されない。例えば、個人のパソコンに搭載され、ログインに使用されるAI技術はEU法の適用範囲から除外される。
この禁止措置は2025年2月2日より適用されている。
2）ハイリスクのあるサービス
教育、医療、金融、司法・内政（例えば、移民・難民認定）等の分野で利用されるAIサービスは基本権を害する危険性が大きいため、AI法が定める要件を満たさなければならない（参照）。特に、人による監視を必要とする。選挙に影響を及ぼすAIサービスの利用も同様である。
ハイリスクのあるAI技術の利用は非常に多岐に亘り、AI法の適用には不透明な点も多い。そのため、2027年8月2日まで移行期間が設けられており、この期間中、EU（欧州委員会）は規制を明確にすることになっている。
なお、市民にはAI搭載機器の利用に関し苦情を申し立て、回答を得る権利が保障される。
3）限定的なリスクのあるサービス
前掲の分野を除き、一般的な目的で利用されるAI技術は基本権や民主主義・法の支配に与える影響が小さいため、その利用は実質的に規制されない。例えば、生成AI（ChatGPT、Gemni 等）は規制の対象から除外されている。ただし、生成したのは人間ではなく、AIであることが明記されなければならない。これによって利用者は人と対話していないことを認識し、提示された情報に誤りがある危険性を認識することができる。
なお、生成AIはEUの著作権法に違反してはならない。
4）最小リスクのあるサービス
例えば、迷惑メールの自動振り分け機能はリスクが最小であるとされ、AI法によって規制されない。
