# 内閣委員会 参考人質疑 議事録（自動整形） ## 開会 [00:00:00.000] はい、これより会議を開きます。内閣提出人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。本日は本案審査のため、参考人として、東京大学大学院工学系研究科技術経営戦略学専攻人工物工学研究センター教授松尾豊君、一橋大学大学院工学研究科教授池貝直人君、一般社団法人ソフトウェア協会会長桜インターネット株式会社代表取締役社長田中邦博君、一般財団法人ガブテック東京アドバイザー庵野貴博君、以上の4名の方々からご意見を受けたまることにいたしております。この際、参考人各位に一言ご挨拶を申し上げます。本日はお忙しいところです。 ## 議題 [00:00:43.081] ### 松尾（参考人） [00:00:43.081] 本日はお忙しいところ、内閣委員会にお運びくださいまして、本当にありがとうございました。本日、様々な質疑があるかと思いますが、期間のないご意見をいただきたいと思います。この法案の審議の参考とさせていただきたいと思いますので、どうかよろしくお願いいたします。次に、議事の順序について申し上げます。まず、松尾参考人、池貝参考人、田中参考人、庵野参考人の順に、お一人10分程度のご意見をお述べいただき、その後、委員の質疑に対して、お答えをいただきたいと思います。なお、参考人各位に申し上げますが、 ## 議題 [00:01:22.450] ### 松尾（参考人） [00:01:22.450] ご発言の際には、その都度委員長の許可を得てご発言くださいますようお願い申し上げます。また、参考人は、委員に対して質疑をすることができないということになっておりますので、あらかじめご承知をおき、願いたいと思います。それでは、松尾参考人、お願いいたします。はい、東京大学の松尾と申します。AI戦略会議において座長を務めさせていただいております。本日は、本法案に関しまして、①AIの利活用及び開発力の強化、②人材育成の重要性、③イノベーションの促進とリスク対応の両立の3点について、意見を述べさせていただきます。それに先立ちまして、 今、現在の日本を取り巻くAIの状況についてお話ししたいと思います。2022年11月に出たChatGPT以降、世界は、生成AIをめぐって大きく変化しています。生成AIは次々と新しいサービスを出し、GarFamと呼ばれるGoogleなどの米国企業は、生成AIに多額の投資をしています。中国でも最近、DeepSeekと呼ばれるサービスが注目を集めましたが、アリババ、テンセントなどの企業も非常に高い技術力を持っています。生成AIの開発にはGPUという半導体が不可欠ですが、これを提供するNVIDIAは世界一の時価総額となりました。一方で、 日本は、デジタル分野でここ20年、後陣を這いしてきました。皆様がお使いのスマホ、検索サービス、eコマース、会議アプリなど、多くのものが海外製です。そうした海外の企業が、AIに巨額の投資をしていますから、日本は、AIの分野においても非常に苦しい状況にあります。まず、普通にやって勝てない状況にある、と思っていただいて良いと思います。日本のデジタルワークサービスは、日本のデジタルワークサービスの中で最も大きく膨らんでいることは、皆様もよくご存知のところかと思います。そういった状況の中で、これまでのAIに関しての国の動きはどうか、 チャットGPTが出て以降の日本の国としての動きは、私はほぼ満点と言っても良いと思います。と言いますのも、インターネットが伸びてきたとき、ソーシャルメディアが伸びてきたとき、あるいはスマホが出てきたとき、いずれも日本は数年遅れでした。コミュニケーションが起きていることにすら気づかず、気づいたときには、すでに世界で勝負は終わっていた、その市場に参入するチャンスすらなかった、というような状況でした。ところが、今回、非正製AIに関しては、世界と同時に驚き、そして各国政府よりむしろ早く、着実に対応しているとさえ言えます。 とはいえ、大前提として、デジタルの分野は圧倒的な実力差、投資規模の差があります。これを、正義に例えますと、将棋の形勢としては、劣勢・敗勢ながら、最も良い手、最善手を指し続けている。それによって形勢は悪いながらも、チャンスは残っている、と言えると思っています。具体的に言いますと、まず2023年から、経済産業省が主体となって、必要な半導体、GPUを大幅に各国、増強しました。これは、正製AIの開発において欠かせないもので、これがないと、戦いに参戦すらできません。私の研究室でも、このGPUが増強されたおかげで、研究を進めることができていますし、 また、スタートアップでも、思い切った開発を進めることができるようになっています。次に、開発者の育成をしてきました。経済産業省のGENIACというプロジェクトでは、日本全国から優秀な開発者を募り、支援をしています。日本語に特化したもの、あるいは特定の分野に特化したものに関しては、海外の正製AIの性能を超えるような例も出始めています。また、こういった最先端の分野に、本当に珍しいと思いますが、日本が存在感を持って、国際的な議論をリードしています。総務省を中心に、広島AIプロセスの立ち上げ、そこから55カ国・地域に広げた、 広島AIプロセスフレンズグループの展開を行っています。また、世界で3番目という速さで、AIセーフティー・インスティテュートという安全性に関する組織が、昨年2月に立ち上がりました。このように、日本の国としての動きは素早く、また、最善の手を続けており、ここまでは満点といっても良い内容だと思います。肝心なのは、ここからどうするかです。一つは、AIの利活用を進めていくことです。日本は経済規模がそこそこ大きいにもかかわらず、デジタルやAIがこれまで一向に進んできませんでしたから、伸びしろという面ではかなりあります。例えば、高齢化に伴う医療費の増加は、 国全体の喫緊の課題ですが、これまで医療分野では、デジタルの活用は残念ながら、ほとんど進んできませんでした。ところが、生成AIを活用することで、データを統合する、医師のサポートをする、あるいは医療事務を効率化することなどができるかもしれません。そうすると、医療分野全体が大きく効率化し、生産性が上がるはずです。また、事務作業に関して言えば、行政も大きく効率化することができるでしょう。結果的に、市民サービスの向上につながります。最近では、生成AIはロボットの分野にも使われるようになってきています。汎用型のロボットが、洗濯物をたたんだり、 机を片付けたりすることができるようになってきました。ロボットの頭脳、AIの部分が大きく進展しているからです。こうしたロボットの技術を日本でも開発していけば、介護、物流、建築、農業、防災などの各分野に役立てることができます。そしてもう一つ重要なことは、こうした活用のための技術自体を日本で作るということです。海外のサービスを活用するだけでは、デジタル赤字がますます拡大します。AIを日本の中で開発するための開発力の強化についても、政策として取り組んでいくことが重要です。今、私の研究室では、AI人材の育成をしています。 年々、多くの方がAIの講義を受講してくださっており、昨年度は2万7000人が受講しました。広く学生全般に開放しているのですが、東京大学以外の大学生も多く、また、高校、中学からの受講生も増えています。日本中の学生がAIを勉強し始めています。若者がAIを勉強すること、あるいは社会人がリスキリングとしてAIを勉強することで、日本全体がAIを活用する、開発をする土壌が作られていきます。これを加速するためには、全国の大学や高専などが中心となって、AIの教育をさらに強化すべきです。また、地域で学んだ人材が、地域の企業のAI活用、AI開発を助ける、 そしてスタートアップを作って、大きくなり上場する、こういったことが増えてくれば、地域経済、日本経済全体が活性化してくると思います。同時に、こうしたAI人材の育成は日本にとどまりません。東南アジアやアフリカなどの国でも、同じようなことが必要とされています。これまで築いてきた広島AIプロセスの基盤を生かしながら、日本がグローバルサウスでのAI人材の育成にしっかり協力することで、世界でもリーダーシップを強めていくことができると考えます。さて、そうした中で、今回のAI法案になります。本法案は、2024年7月以降、AI制度研究会を7回開催し、 研究者や事業者等のヒアリングを含む議論に加え、パブリックコメントを経て作成された中間取りまとめの内容を受けて、AIに特化した日本初の法案として、2025年2月28日に石破内閣で閣議決定されました。総理あるいは担当の木内大臣から、イノベーション促進とリスク対応の両立を図り、世界で最もAIを開発・活用しやすい国を目指すと説明されていますが、この意味について少し解説したいと思います。日本において、AIの進展がさまざまな社会課題を解決し、経済を成長させる大きな機会であるというのは、これまでにお話ししてきたとおりです。 しかしながら、生成AIの急激な進展に不安を感じている方もおられます。自分の仕事がなくなるのではないか、自分の作った作品が学習に使われているのではないか、AIがさまざまな犯罪に使われる可能性があるのではないか、といったことです。こうした不安、リスクにきちんと対応する必要があります。これまで大雑把に言って、ヨーロッパはリスク対応を重視し、AIに関して強い規制をとる、米国はイノベーションを重視した方針、こういうふうにされています。つまり、リスク対応とイノベーションの促進はトレードオフだということです。どちらかをあげれば、どちらかが犠牲になるということです。 しかし、研究会の議論の中で明らかになってきたことは、これはトレードオフではない、つまり、きちんとしたリスク対応をとることで、イノベーションが進むのではないか、リスク対応とイノベーションの促進を両立させることができるのではないか、ということです。ご存知のとおり、日本では新しい技術を使って新しいことをやろうとしても、前例がないのでやめておきなさいと言われます。しかし、リスクに対してしっかり対応されていれば、かえって新しいことを取り組む人も増えます。リスク対応とイノベーション促進はトレードオフではない、両立するのだということが、 我々の中間取りまとめの重要なメッセージであり、それが法案にも生かされていると思います。もう一つ重要なことは、これだけ早い進展をするAIにおいて、今見えているリスクだけがリスクではない、ということです。生成AIの画像の生成能力が飛躍的に上がったからこそ、ディープフェイクというリスクが新たに出現しました。この先も、技術の進化によって新たなリスクが現れてくるでしょう。そうしたときの特定のリスクにだけ対応した法律を作っても不十分です。したがって、どのようなリスクがあるのかの情報収集をし、必要に応じて調査をする、関係の法律で対応すべきときは、 ## 参考人意見陳述 [00:12:05.917] ### 松尾（参考人） [00:12:05.917] それを素早く、的確に行うということが必要になります。今回の法案は、ハードローでありながら、ソフトロー的な柔軟性を持つAIの性質を踏まえた規制のあり方として、世界の中でも大変に先進的な法案であると考えます。本日のご説明は以上となりますが、今回の法案によって、リスクにきちんと対応しながら、AIの開発、活用が進むことで、さまざまな社会課題が解決され、日本の経済が発展する、また、生産性が上がり、人々が生き生きと働くことのできる社会になることを期待しております。以上です。松尾参考人、ありがとうございました。次に、池貝参考人にお願いいたします。 ### 松尾（参考人） [00:12:49.321] 本日、このような機会をいただき、ありがとうございます。一橋大学の池貝直人と申します。私は、研究者としては、こうしたAIをはじめとする、デジタル技術に関する法制度の在り方というものを、EUですとか、米国との比較を中心とした研究を行っているものでございまして、今回、松尾参考人が座長を務められる、AI制度研究会の委員も務めさせていただいたところでございます。今回、この本法案に関しまして、一つの大きなテーマである、研究開発ですとか、開発用の促進に関しては、他の参考人からもご意見があるところか、というふうに思いますので、 私の方は、こちらの一枚紙を参考にいたしまして、特に、リスク対応の観点から、この法案に関する私の意見というものと、そして、いくつかの期待ということを、大きく3点に分けて、申し上げさせていただきたいというふうに思います。まず、本法案第3章に規定されるAI基本計画、そして、第4章によって創設される AI本部といった、まさに、この国の体制整備に関する規定を始めといたしまして、これは、AI関連技術の研究開発、活用の推進というものは、もとよりであるのですけれども、やはり、複数領域に関わる、このリスクへの不詳横断的対応を、我が国として可能とする基盤法制としての、 意義を有するものと考えております。AIの法制上、課題になるリスクといいますと、生成AIの登場前は、これは国際的にも、主として比較的、そのリスクというものは、特定して議論されてきたところだったというふうに思います。一つは、AIを組み込んだ製品が間違った判断をする、暴走する、爆発する、そのような、製品安全のリスクということ。それから、もう一つは、AIが個人に関する情報を分析して、プロファイリングして、時には、人を差別的な取り扱いをする、自動的決定を行う。大きくは、その2つが焦点を当てられており、それはこれからも重要でございます。 なのでございますけれども、2022年のチャットGPT、そして生成AIの本格的な普及というのは、法的側面からの、このAIの位置づけというものを、かなり変容させたというふうに思っております。それはまさしく、人の代わりに情報を生成してくれるAIなわけでございます。そうした情報というのが、これから社会全体で流通する情報の およそ大半を占めるようになるという予測は、決して大きさではないというふうに思います。そうしましたときに、情報関連法制全体が、これまで考えてきたリスクというものを、どのように新しく再構築していくのかということ。 例えば、ディープフェイクへの対応というのは、その典型であるというふうに思います。民事救済、刑事法、刑事規制、そして知的財産権、消費者法制、そして、それらのディープフェイクが、生み出されたディープフェイクが流通する多くの場というのは、これはソーシャルメディアをはじめとするプラットフォームでございます。それとの規制との関係をどう考えるか。そして、選挙のときにどのような特別な対応が必要かというふうに言ったようなことは、これらそれぞれ所管省庁も、そして使う法律も違うわけでございますけれども、やはり調和した対応ということが、何より重要になるわけでございます。 そして、もう1つ加えますと、やはり法制という観点から見て、AI分野というのは、技術、そして運用の実態、アルゴリズムがどのように機能しているのか。あるいは、AIに、生成AIに関する安全性は、実際にどのように技術的に試みられているのか。そのようなことを正確に、継続的に把握し続けることに、高いコストがかかります。そのことに関して、今回のような総合的な体制整備というのが行われることによって、AIセーフティーインシチュートと国内外機関の連携を含めまして、この各法領域の運用と、そして今後の改正等の大前提となる、 このインテリジェンス基盤の構築が行われていくということを、非常に強く期待するところでございます。ご参考まで申し上げますと、EUのAI法制、AI政策を担当するAIオフィスというのは、それだけで140人のスタッフを抱えており、またそれに加えまして、少なくとも数十人の科学者が、科学的見地からの、そうした政策の立案と運用の助言を行っているというふうに言ったチームを抱えている。このような体制整備も、一つは大きく可能としてくれるだろう。二つ目といたしまして、適正性確保のための指針の整備というのが、今回の規範的な側面として大変重要かと思います。 ことに加えて、おそらくはそれと少なからず連動する形で進められるであろう、国による情報収集、調査、研究と指導、助言、情報提供等の規定。このことというのは、AIQFの進化がかつてない速度で進む中で、これは私が絶対専門にしてまいります。官民の共同規制の考え方とも親和性の高い、柔軟性・機敏性の高いリスク対応のPDA・CAサイクルを構築する枠組みとしての機能の意義を有すると考えるところでございます。この指針の中におきましては、広島AIプロセスと国際的な規範との整合性はもとよりでございますけれど、リスクベースの考え方を考慮しながら、複数法分野に関わる共通の事項、 例えばやはり国際的にも透明性確保、AI生成コンテンツの判別性確保、学習データの概要の開示、といったようなことは、共通の事項として理解が進んできているところでございますし、そして既存法令で対応が十分にできないリスク、および事業者、開発、運用を行う事業者自身がしっかりリスクの軽減と、そしてその自らの評価ということをしっかり行っていただく、こうしたことをしっかり念頭に置いた指針というものが作成されることを、私としては期待するところでございます。そしてもう一つ、この指針の作成見直しプロセスと、そしてその運用がしっかり、および事業者によっても、 遵守されているのかということをモニタリングするプロセス、この両面におきまして、消費者、市民社会、学会等の多様なステークホルダーの実効性ある参加というものを、ぜひ確保していただきたいというふうに思います。これはですね、制度の実効性でありますとか、それに必要な知識集約というところもあるのでございますけれども、やはりこういった実質的な我が国の制度というものを、立法によって、ある種、行政および関係するステークホルダーに委ねる、その中でしっかりと、その制度に対する民主的正当性を確保していくというふうに言ったような観点からも、 こうした手法というものを、ぜひ重視していただきたいと思います。最後に3点目でございます。今後数年間の中で、さまざまリスクが生じてくる。それはイノベーションが期待通りに進んでくれればこそ、生じ得ることでございますけれども、その中で、おそらくは多数の個別法の改正でございますとか、AIに対応するための、そして本法案の附則2条に定められている、本法案自体の検討、いわば見直しというふうに言ったようなことが必要になる可能性があります。この可能性というのは、これはおそらく高いというふうに思います。そうしたときに、やはり今回法律をつくる。 そして、それを国民の安全安心と技術革新を高い水準で両立させ続けていくためには、やはりそのリスクが起こったときに初めて検討を開始して、そして3ヶ月なり半年なりで結論を出すというプロセスだけではなく、やはり常日頃から、これ継続的に本当に望ましい、このAIに関わるより望ましい制度というものは、果たして何であるのか。そして、それは個別の問題への対応ということはもとより、まさに今回のような、おそらくはこれまでの法制の中でも全く新しいガバナンスメカニズムの在り方、そういった全体の枠組みというものを継続的に検討を続ける必要があるというふうに思います。 ## 議題 [00:21:25.966] ### 池貝（参考人） [00:21:25.966] ぜひ、新設されるAI戦略本部の中でも、この制度の継続検討というふうに思います。というふうに言ったようなことを、一つ念頭に置いていただきたいと期待するところでございます。私からは以上でございます。御清聴ありがとうございました。池貝参考人、ありがとうございました。次に、田中参考人、お願いいたします。ソフトウェア協会の代表しております、田中邦弘と申します。本日はこのような機会をいただきましたことを改めて御礼申し上げます。既に提出しております資料をもとに、説明をさせていただければと思っておりますので、どうぞよろしくお願いいたします。 ### 本日御参加いただいている松尾（参考人） [00:22:08.724] 私でございますが、29年前に京都の舞鶴高専に在学中、学生起業をしたさくらインターネットの代表者でございまして、20年前に上場いたしました、いわゆるスタートアップの起業家でもございます。3年前からソフトウェア協会の会長を拝命しておるほか、本日御参加いただいている松尾参考人が座長をしております、AI戦略会議の構成員をさせていただいております。この2年間、AIの戦略であるだとか、またAI法の議論等に参加させていただいていたものでございます。次のページでございますけれども、ソフトウェア協会の説明を少しだけさせていただきます。 ソフトウェア協会は1982年に任意団体として、現在ソフトバンク社の代表をしております、孫正義氏によって設立をされた団体でございまして、1986年に社団法人になっております。来年で40周年を迎える団体でございます。過去で言いますと、ソフトウェアの権利であるだとか、ソフトウェアのリスク回避、またコピーをしたときの問題の解消であるだとか、また著作権法を当時改正をして、ソフトウェアに著作権を認めていくということについての活動をしてきた団体でございます。最近ですと、健康保険組合の運営、IT憲法の運営でのぼりとなっております。 また、最近ではAIの促進等で活動している団体でございます。約800社の方々が入会されております。次からが本題でございます。4ページ目でございますけれども、本日申し上げたいことは3つでございます。AIの利活用をしっかりと促進し、また教育を行い、またみんなが使えるようになる国になるということが1つ。もう1つが、AIの利活用だけではなく、AIを産業として、AI自体を開発し、AI自体を産業化し、この国の成長の礎にしていくということです。もう1つは、リスク対応。 ### AIによる先ほどから（参考人） [00:24:09.575] 最近ですと、ジブリ風画像の生成なんていうものもありますし、AIによる先ほどから参考人からありましたように、差別的な取り扱い等ですね、大きな問題が顕在化しております。そのようなものをしっかりと、今回の法案のこの先にしっかりと規制をし、しっかりとガイドラインを示していく。これが重要であるということを申し上げたいというふうに思っております。まずですね、AIの利活用。多くの方々が利活用していると思いますけれども、それでもAIを本当に利活用している国に比べると、全然日本は遅れているという状況にあります。 実際にですね、私の身の回りでも、チャットGPTを使っているかと、若い人に聞いても、ほとんどの人が使っていないと言います。私の周りはですね、本当に使っている方が多いかと思ったんですけれども、例えば、ジムに行ったジムのトレーナーさんとか、髪を切りに行ったときの美容師さん、このような一般的な現場の方々というのは、ほとんど使っておられません。一つのエピソードとして、私が通っているジムが、全然お客さんが来ないと言っておったんですけれども、 それをチャットGPTに聞いてみたらどうかと、その場でインストールをさせてですね、いろいろ手法を試していただいたわけなんですけれども、なんとそのジムがですね、お客さんが増えてしまいましてですね、AIの利活用によって、お客さんが増えてしまいましてですね、AIの利活用によって、本当にすぐにですね、対応ができると。ただ、それが使えるということ自体を知らないということは、非常に嘆かしいことだなというふうに思っております。ただですね、もう一つの論点としまして、それはチャットGPTを使ったわけですけれども、 一つの検索をするたびにですね、人間の1000倍以上のですね、電力、エネルギーを使いながら動いている。電力の問題も発生させてしまいます。また、それが海外のサービスであった場合に、どんどんどんどん貿易赤字が増えてしまうという問題がございます。このあたりについては、また後ほどお話しさせていただきますけれども、国力を強くするAIなのか、もしくは国富を流出させてしまうのがAIなのか、また、国民が不利になってしまわないようにするということも重要でありますし、AIについては、プラスの側面、マイナスの側面、両方があるということは言うまでもございません。 次のページでございますけれども、日本はデジタル廃線という非常に屈辱的な言葉で、最近叫ばれるようになっています。ただですね、私、1982年にできたソフトウェア協会の代表として思うのは、ソフトウェア産業を1980年代は進行しようとしていたと。また、半導体についても、世界トップ10の企業のうち7社が日本企業であった。非常に我が世の春を謳歌していたのが、日本のデジタル分野であったわけですけれども、何が起こってしまったのかということを、やはり団体の代表として深く考えることがあります。その中で、少しまとめさせていただいたのが、5ページでございます。 一つ分岐点になるのは、やはり日本がハードウェアに変調しすぎたということ。今回のAIに関しても、いわゆるソフトなわけですけれども、我々もGPUの整備というのをしておりますが、その先にいかにソフトウェア産業を発展させるかということが非常に重要でありました。しかしながら、1980年代、アメリカからの圧力もありまして、ソフトウェアに著作権を認めるということ。これは国会で審議をされ、1985年に著作権法が改正され、ソフトウェアに著作権が認められました。そうなりますと、ハードウェアの付け足しとして考えていた日本の企業さんは、 ソフトウェアで儲けられなくなり、ソフトウェアだけを売っている企業が、1980年代、2000年代に大きな利益を上げたことは皆様もご存知の通りだと思います。ですので、ハードウェアで儲けられなくなり、ソフトウェアで外国に流出してしまうということに関しては、構造的に1980年代に作られたものであります。もう一つが1985年の日米半導体協定でございます。その際に、半導体の価格に関しては、アメリカが決定していくと、決定権がアメリカに委ねられたわけですけれども、当時の日本というのは、どんどん半導体が安くなる中で、競争力をどのように担保するのかということよりも、 値段をいかに維持するのかということに躍起になっていました。ですので、アメリカの利益も日本の企業の利益も合致したということを聞いております。ですので、半導体の値段を日本で決めるのではなく、決めてもらうことによって、高い値段が維持できるようになって、日本の半導体事業者は我が世の春を謳歌したわけですけれども、その5年後、1990年には、既にトップ10のうち7社あった半導体企業が日本では2社に減っておりました。それは何かというと、高止まりした値段で一瞬は儲かったんだけれども、そのうちに韓国や台湾の非常に質が良くて安い半導体に流れてしまった。 おまけに技術者もそちらに流れてしまった。ですので、それらの技術を確立したのは日本人であります。そういった中で、構造的に1980年代から90年代にソフトウェア産業が縮小していったということがこの背景にございます。そんな中で、ネット企業が台頭する中でも、日本は十分に世界で活躍できなかったというのがこの背景にございます。その次のページでございます。その結果どうなるかと言いますと、このページにございますように、6.5兆円という莫大な貿易赤字を作ることになったというのが現状であります。これは現在進行形でございまして、DXと言われますけれども、 DXで生産性を改善するということをどんどん進めれば進めるほど、日本はどんどんどんどんデジタルで赤字をこさえていくということになっています。なので、デジタルで生産性を上げることによって、デジタルによって国民が貧乏になっていくということが言えますので、これだったらDXは進まない方がいいんじゃないかというふうなことも言えるわけですが、ただ国際競争がございます。日本の会社だけがDXをしない、そしてAIを活用しないということになると、当然のことながら産業競争力が削がれていくことになります。じゃあどうすればいいのか。 しっかりと国内でデジタル産業、AI産業を確立し、DXやAI利活用が国富を増すことにつながることが重要だというふうに考えております。余談でございますけれども、私、田中邦弘という名前は、親が国を裕福にするということで名付けたというふうに言われておりまして、やはりこれまではそんなことは考えたこともなかったですけれども、やはり業界を背負って立つ立場になり、またAI戦略会議で、日本がAIでどのようにしていくのか、国家のレベルで戦略的に考えた際に、やはり国民が豊かになり、そして国が豊かになり、国際競争力を増して、将来にわたって繁栄する国をつくること。 これをデジタルAIとともに成し遂げることが非常に重要だというふうに感じたわけでございます。次のページでございます。最後のページでございます。最近、ニセコという町がどんどん外国資本に置き換わっていって、建物も、そして運営も、そしてお客様も外資になっていっていると。働いている人だけが日本人だという構造になっています。6.5兆円の貿易赤字をデジタルでつくっているわけですけれども、幸いインバウンドによってそれを取り返しているともいわれております。 ただ、そのインバウンドの主役である観光客が来たとしても、働いているのが日本人なだけで、資本も、そして運営もすべて海外に握られている中で、生産性の高いデジタル産業で国富が流出し、労働によってそれを取り返すという、この構造が本当にいいんだろうかと。このようになると、やはり日本が成長しないということを意味しております。このような中で、日本はAIの利活用によって国を豊かにしていくということが非常に重要です。 もう一つがリスク回避でございまして、やはり先ほどのジブリフ画像のように、日本は多くのコンテンツを持っているわけですけれども、それを勝手に学習されて、それが著作権料も払われないまま、世界中の人たちにフリーライドされてしまう。日本人にはお金が入ってこないという状況がある中で、やはり日本で産業をつくるとともに、やはり海外の事業者とのイコールフッティング、海外の事業者に対しても一定の規制をしていく中で、海外の事業者も逆に日本で安心して仕事ができるような環境を日本企業とともにつくっていくということが重要かと思っております。 ## 議題 [00:33:40.273] ### 田中（参考人） [00:33:40.273] 以上でございます。ありがとうございました。田中参考人、ありがとうございました。次に、庵野参考人、お願いいたします。本日はこのような機会をいただき、誠にありがとうございます。一般財団法人ガブテック東京でアドバイザーを務めております、庵野孝博と申します。今回のAI法案に対する意見を述べさせていただきます。はじめに、私の経歴、バックグラウンドを簡単に紹介いたします。今回の法案に関し、私は3つの意味で当事者でございます。第一に、ソフトウェアエンジニアとしてAIを活用したアプリケーションの開発に携わっております。 第二に、企業家としてAIスタートアップを複数立ち上げてきた経験から、事業者視点でのAI活用やビジネス観点での課題を実感しております。第三に、商業作家としてSF小説を執筆しており、著作権者という立場で、生成AIなどの技術がクリエイターの創作活動に与える影響についても関心を持っております。これらの観点を踏まえ、本法案を日本におけるAI技術の研究開発と活用の推進を図るための重要な一歩と考え、その目的に賛同しつつ、より良い運用のための提言をさせていただければと思います。まず今回のAI法案について、私の受け止めを3つ共有させていただきます。 まず第一に、現在私たちは社会変革を促すAI技術の推進とリスク対応の両立を求められており、本法案もその両立を前提に考えられたものだと認識しております。昨今のAI技術の進化は著しく、AI技術は社会構造の大きな変化をもたらす可能性があります。適切に活用することで、行政サービスの高度化、産業競争力の強化、医療・介護・教育分野などにおける革新など、国民生活に対して幅広い恩恵が見込まれます。その一方で、著作権の侵害、ディープフェイクによる名誉嫌悪、既存や偽情報の留守など、さまざまなリスクも指摘されているとおり、リスク対応も課題であると考えます。 この両者は決してどちらかだけを解決するというものではなく、イノベーションとリスク対応は両立させる姿勢が必要だと考えております。二つ目に、海外事例を適切に踏まえることの必要性です。EUはAIアクトの策定を進めるなど、規制面、罰則面を強化しておりますが、これに関しては、研究開発やコンプライアンスにおける 負担増が、特にスタートアップや中小企業に対して過剰なコスト要因になっており、イノベーションを阻害しているという声も聞かれます。一方で、米国は官民連携しつつ、基本的には産業界の自主性を重視するような動きがありますが、 これに関しては、社会的リスクへの対応は後手に回っており、利用者の懸念に十分応えられていないという声もございます。こうした海外の例を踏まえつつ、日本としては中間的なアプローチをとって、事業者にとっても利用者にとってもAI技術を活用しやすいような制度設計を目指しているということは、注目すべき点だと考えております。3つ目に、機動力の向上、変化に対応可能な体制づくりが重要だと考えております。AIは、7か月ごとに仕事の能力が倍になっていくというトレンドが観測されております。ある意味、指数関数的に変化していくと。そんな中で、本法案はAI戦略本部で、 ## 議題 [00:37:13.256] 総理直下に設けることで、変化に激しいAI分野に対して素早く施策を講じられる体制を整えておると認識しております。また、研究開発の促進とリスク軽減を両立させる仕組みとして、機動的な行政調査やガイドラインを活用しようとする重要な考え方を持っており、日本におけるAI推進を適切に進められるものと考えております。次に、今回のAI本案で適切に規定されていると考えられる4つのポイントに触れたいと思います。1点目が重要性の認識が明文化されていることでございます。AI技術は産業、経済のみならず、安全保障上も非常に重要な要素です。 本法案においては、AIの利活用が国民生活や国家安全保障に大きな影響を与える可能性を見据えて、各当事者の積極的な取り組みを促進しようとしております。2点目に、研究開発を目的とした関係者を萎縮させない推進方針でございます。罰則を伴うような規制強化ではなく、基本理念や国の責務、指針に焦点を当てる推進法の側面が強いことは、AI関連のプロジェクトを各事業者が萎縮なく進める上で、イノベーションを促進するような土台になり得ると思っております。特にAIを扱うスタートアップなどは、新しい技術領域やその応用に挑戦する際に、過度に厳しい規制やコスト負担の懸念があると、 断念しかねません。本法案は、そうしたリスクを回避するような柔軟性があると考えております。3点目に、リスク低減に向けた著作権保護と透明性確保への配慮です。AIが生成したコンテンツについては、著作権法上の取り扱いが複雑化しつつあります。本法案でも、著作権侵害への対処やコンテンツの透明性確保が重要視されており、作家やクリエイターにとっても一歩前進と捉えられます。AIをめぐる著作権、知財関連の課題に正面から向き合い、検討を深める土台が本法案にとって整えられることは、創作者としては非常に心強く感じております。4点目に、検討の機動力を上げる体制についてです。 本法案で設置されるAI戦略本部は、全閣僚で構成され、総理が本部長を務める司令塔組織になっています。AI戦略においては、高いレベルのリーダーシップと象徴感のリーダーシップが必要です。その連携が不可欠であり、機動力の高い体制で迅速かつ総合的な判断を下せるようにしていることは、本法案の大きな特徴だと考えております。次に、本法案の運用段階で懸念される点について4点述べさせていただきます。いずれも、今後の施行・運用の中で注意深く対応する必要があると考えております。1つ目に、AI法案以外の既存の法令制度での対応スピードへの懸念です。 今回のAI法案は、基本法の性格が強いものと承知しており、個別案件や新しい技術リスクに対処する際には、関連する業法や規制の迅速な改正が必要となると認識しております。また、フェイクニュースやデータの不正利用など、現行法でも違法性が認められるような問題であっても、AI技術特有のスピード感に対応しきれない可能性があると考えております。2つ目に、AI技術全般に対する安易な規制論が出てくることへの懸念です。19世紀のイギリスでは、自動車の利点というものを著しく損なうような規制であった赤旗法というものがございました。 これに象徴されるように、新しい技術がもたらす変化への過度な不安が先行すると、過剰な規制によって産業や社会の成長が阻害される事態に陥る恐れがあります。特にAI分野は、国際競争が一時激しく、強い規制を敷くと国内事業者のコストが増大し、海外事業者との競争において不利な環境を作ってしまう懸念がございます。3つ目に、順法意識の高い事業者ほどコスト負担が大きくなってしまうという懸念です。ルールを守らない、あるいは抜け道を探す事業者が海外拠点などから参入してくると、公正な競争というのが歪められるリスクがあります。 そうした不公平感をなくすためにも、行政上の調査権限や公表措置などのソフトな制裁を適切に活用しながら、実効性を高めていくという運用が重要だと考えております。4つ目に、変化の激しいAI領域において、専門家や現場の声がタイムリーに反映されないという懸念です。今日のAI分野は、数日おきに画期的なモデルであるとか、応用事例が登場してきております。それが社会に大きな影響を与えていく中で、現場でのAI活用に取り組む企業や研究者、クリエイターなど著作権者、一般の利用者など、 多様なステークホルダーの声を法律やガイドラインの運用に素早く取り込む、それができることが重要だと思っています。最後に、私から今後の取り組みとして、具体的に3点提案させていただきます。まず1点目が、専門家の活用とステークホルダーの声を継続的に集約する仕組みでございます。AI技術の進展に対応して、必要な政策決定や緊急時の迅速な対応を行うには、AI分野に精通したような専門家が必要です。AI戦略本部長である総理の直下には、是非とも専門知識を持って国民とも関係省庁とも丁寧にコミュニケーションが取れるようなAI担当大臣を任命されることを提言いたします。 本法案成立後も、多様なステークホルダーの声を継続的に集約し、必要に応じて対処を行うことが重要です。2点目に、トック制度やサンドボックス制度を活用した人材育成・教育の場の充実ということでございます。AIの実証実験や先進的な取り組みを推進するためのトック制度やサンドボックス制度を活用した人材育成・教育の場の充実ということでございます。3点目に、人材育成や教育プログラムをさらに拡充することを提案いたします。AIリテラシーの底上げというのは、国民全体の課題であり、AI法案で示された基本理念を実装する上でも、人材の確保というのは最も重要な鍵と言えると思います。 ### 田中（参考人） [00:43:34.044] 3点目に、コンプライアンス支援と国際連携というところでございます。AI事業者やクリエイターが遵守すべきルールやガイドラインを明快に提示すると同時に、それを実践するための支援策も不可欠だと考えております。また、日本独自のルールだけではなく、海外の最新事例、規制動向と連携しながら、国際的な競争力や整合性を維持し続ける取り組みも欠かせないと考えております。そうして、AI法案は、我が国が将来にわたってAIの恩恵を享受し、国際社会での競争力を高めるための重要な出発点であると考えます。以上で私の意見陳述を終わります。ご清聴ありがとうございました。 ## 質疑 [00:44:17.609] ### 庵野（参考人） [00:44:17.609] はい、庵野参考人ありがとうございました。以上で各参考人からのご意見の開示です。これより参考人に対する質疑に入ります。質疑の申し出がありますので、順次これを許します。木川田仁志君。自由民主党の衆議院議員の木川田仁志でございます。本日参考人の皆様にはお忙しいところ、ご参照いただきまして誠にありがとうございます。たくさん聞きたいことがあるので、早速質問に入りたいというふうに思います。まず、松尾先生にお聞きしたいと思います。 松尾先生におきましては、これまでの政府の取組、またこのAI推進法に対して非常に前向きなメッセージを発していただいて、感謝を申し上げたいと思います。また、心強く思っております。しかし、先ほどお話があったように、日本のAIを取り巻く現状というのは大変厳しい。投資額、また生成AIを利用している個人、アメリカ、中国に比べたら圧倒的に低いということでございます。しかしながら、先生の政策、性格などが常にポジティブで、昨年の生成AIサミットにあたっては、このキャッチアップは良いだということを語ったということが新聞にも載っておりましたし、 また、そういう中で、私は本当なのか、大丈夫なのかというふうな心配も同時にしております。今日は、またそういう中でも、普通にやっては勝てないというお話もあります。そういうふうに質問されていておりました。先生の話を聞くと、生成AI、チャットGPTとかディープシークとか、そういうものばかり追い求めるのではなくて、AIを活用する農業分野とか、さまざまないろいろな分野を開拓して、そこに販路と活路を見出していくというのが、先生のお考えのように、私は思いました。 ### 松尾（参考人） [00:46:10.393] また、そこで確認なんですが、この日本のAI政策、何を目指し、何で海外と差別化をしていけば、キャッチアップ、そして追いつき、追い越せるのか、どこをどうしていくか、いいかということを、もう少し深く突っ込んでお話ししていただければと思います。よろしくお願いします。松尾参考人。どうもありがとうございます。キャッチアップは容易ではないと思います。やっぱり、私は現状を正しく認識するということは、すごく大事だと思っておりますし、先ほど田中参考人からありましたように、ほとんど勝っていた状態から、相当負けている状態まで下がってきたわけですから、 ### 先ほど田中（参考人） [00:46:53.312] その下がっているトレンドを、まずはフラットにして、そして上向きにしていくということを順番にやっていかないと、よくVG復活とか言いますけれども、そういうことではなくて、しっかりやっていくということだと思います。そのためにどうすればいいかですけれども、一つのポイントは、日本の中でこれまでデジタルAIの活用が進んでこなかったために、その活用の余地が非常に大きいんだということです。先ほど田中参考人の方から、美容師さんの売上が上がってしまったと、活用するだけで上がって非常にすごいというようなお話がありましたけれども、 日本の至るところで、この生成AIを活用すれば、生産性が上がる、売上が上がるというようなことがあり得ると思っていまして、そこをしっかりやっていくということだと思います。もう一つ重要なのは、GAFAM、非常に強いです。ただ、考えてみれば、広告のビジネス、あるいはインターネット上の販売のビジネスなんですよね。そうすると、広告というのは、要するにいろんな会社がいろんな活動をする中での広告費なわけです。ところが、それに比べて日本は、例えば自動車産業であるとか、それから素材ですとか、機械ですとか、いろんな実需があるわけですね。実ビジネスが非常に大きいと。 ### 菊和田仁志（参考人） [00:48:18.828] ここにきちんと生成AIを活用していくことで、そうしたものの生産性、付加価値自体が上がっていく。これは実は広告産業よりも非常に大きな可能性を秘めている。その辺りが可能性としては非常に重要なんじゃないかというふうに思っています。以上です。菊和田仁志君。ありがとうございます。この使われていないからこそ使われるようになれば、まずそこを埋めていって、そこから上がっていくというようなお話でした。ちょっと私からまた悲観的なお話をさせていただきますが、しかしですね、このなぜ使われていないかという中で大きな理由として、 やはり多くの国民がAIを不安視しているということがあります。そういう中でですね、今回の法案については、AIを推進する法案ですから、どちらかというと、やれやれという使う側面が大きく出ている法案であるということが言えると思います。しかしながら、これですね、この不安を除外する面も同時に、さっきハードローとソフトローの規制と推進というのは相殺するものでなくて一緒に行けるんだという話がありましたが、それでもですね、国民が果たしてついてくるのであろうかと。我々はやれやれということで、こういう法律をつくって、本部をつくって、計画をつくっていくんですが、 ### では松尾（参考人） [00:49:43.537] やはりこのリスク、リスクについてですね、しっかりと向き合って、安心と安全が確保されなければですね、まあ笛吹けど国民は踊らずと、結局使われないということになりかねないというふうに思います。そこでですね、またすいません、松尾先生と今度は池貝先生お二人にお聞きします。この国民のバクとした不安にですね、どう取り組むかということ。これはまたちょっと先生たちからですね、強調してお話していただけるとありがたいと思います。よろしくお願いします。では松尾参考人からお願いします。はい、ありがとうございます。 不安にですね、どういうふうに対応していくかですけれども、これはですね、しっかり啓蒙活動をしていくということが一つ重要だと思います。今でもですね、一生懸命やっておりますけれども、生成AIの使い方をですね、しっかりと伝えて、それからリスクに対しての対応の仕方ですね、そういったこともですね、しっかり伝える。特にその学校のですね、教育の現場では、今、多くの学生、生徒がですね、生成AIを使っているような状況にあると思いますし、先生方もですね、そうしたものにどういうふうに対応していくかというのが、困っている状況にあります。 ### 次に池谷（参考人） [00:51:04.858] 文科省からいろいろなガイドラインを出していますけれども、そういったものをですね、さらに強化していくというのも一つかというふうに思います。はい、次に池谷参考人お願いします。はい、ありがとうございます。おっしゃっていただきました通り、バクとした不安にどのように対応するかというのが、この不確実な環境の中で極めて重要な課題かというふうに思います。いくつか考えございますけれども、まず一つは、やはりこの法案というものが、略称からAI推進法というところが、やはり報道の中でも特に拒否をされているところかというふうに思います。 しかし、私、先ほどの説明で、リスク対応におけるこの法案の意義ということをご説明させていただいたとおり、この法律は規制法ではないが、リスク対応において国が役立ちます。そして、その役割を果たすための極めて重要な法律である。しっかりと、この何の法的な保障もない状態でAIの活用というものを国は進めているわけではない。しっかりと、この体制整備と、そして機敏な対応の枠組みというものを進めるための法案というものを今回作るのである。そのような側面をしっかりと強調をしていただく。そして、それに沿った形での運用をしていただく。 このことというのが、まず極めて重要かというふうに思います。そして、それからもう一つは、リスク管理のための様々な努力を行っているのは、これは国だけではなく、もちろん開発、そして活用事業者様それぞれにおいても、やはり日々大変な努力をされているわけでございます。そして、そのどのような努力をされているのかということ。これはなかなか一人一人の国民、消費者に対しては伝わりにくいし、そして、その適切性というものを一人一人の国民、消費者、正しく評価をする術というものを持っていないわけでございます。 ### 菊川大人（参考人） [00:53:06.839] この法律によって、しっかりとその対応をどのようにしているのかということを各事業者様に透明性を図っていただく。そして、国の側がある種国民、消費者に代わって、その対応がどの程度十分であり、この部分はまだ足りていないんだということを正しく理解していただくための、情報提供をしていただく。そのような努力によって、まさに漠然とした不安というものへの対応は可能となるというふうに考えております。以上です。菊川大人君。ありがとうございました。私もAIのリスク対応、ちょっとバクとした不安を持っている一人でありますが、 特に私はこのAIについて、安全保障の観点から不安があります。これについての質問を持っております。中国のディープシークですね。これですね、中国の世論戦、歴史戦に利用されないのだろうかというところがあります。例えば、あるラジオ番組で、尖閣諸島はどこの領土かという質問をディープシークにしたらですね、やはりこのはっきりと中国の領土だということが出てくるということがあったというふうな話がございました。 ### では松尾（参考人） [00:54:19.124] そういうことでですね、この意図的にこのバイアス、これをやはりつくることができるのではないかと、AIの学習に中国の都合のよいデータを利用して学習されたのであればですね、それがバイアスの影響を受けて、意図的に中国に有利な情報を流す、歴史戦、そして世論戦に訴えるというものがつくれるのではないかと。というふうに思っております。そのあたりのですね、対応といいますか、どういうふうにこういうものを防いでいったらいいのか。すみません、松尾先生ばっかり聞いておりますが、松尾先生、今度はいろいろ政治でも利用している庵野先生にお聞きしたいと思います。はい、では松尾参考人。 ### 庵野（参考人） [00:55:03.980] はい、ありがとうございます。おっしゃるとおりですね、ディープシーク。国のですね、さまざまな考え方ですとかですね、文化思想が入り込んできます。そういった意味で、日本でもですね、しっかりと国産の大規模言語モデル、LLMをつくっていくということは一つ重要だと思います。それから、そういったですね、リスクをしっかり把握するために情報収集等が必要で、その意味でも今回の法案によってですね、AI戦略本部ができています。そこでそういったリスクに対して、ある程度情報収集していくということは非常に重要かというふうに思います。以上です。では次に、庵野参考人お願いします。 ご質問いただきありがとうございます。おっしゃるとおり、今のLLMというのは、認知戦との相性というのは非常に良い、悪い意味で良いと思っておりまして、そういった懸念というのは十分にあり得ると思います。今、松尾先生がおっしゃったとおり、一つの解決策としては、国産のLLMをしっかり我が国でも作っていくということ。二つ目はですね、このAIによる認知戦というのは、対抗としてもですね、技術で対抗していくということがあり得ると思います。 ### 木方ひとし（参考人） [00:56:22.719] どういった攻撃がどう仕掛けられているのか、それに対してどう対応するのかというところは、人力でやるというのはなかなか難しい領域でございまして、そういった意味で、その防御の、認知戦の防御に対しても技術が必要であると。そういった意味では、AIの利活用をしっかり進めていく、研究開発を進めていくという意味では意義があると考えております。木方ひとし君。はい、時間もおきましたので、最後に田中先生にお聞きしたいと思います。 ### 田中（参考人） [00:56:55.796] 今までの質問、特にソフトというか、そういう利用の方の観点でお話ししましたが、田中先生はどちらかというと、ハードを整備していく方向でご尽力していただいているというふうに思います。そういう中で、日本のAI戦略で必要なデータセンターとかケーブル、また先ほどお話があったように電力というのもたくさん使うということで、いろいろハード面で整備していかなければならないということもあると思います。そこで先生の、日本のAIを取り巻くハード面の整備について、いろいろ御示唆をいただければと思います。はい、田中参考人お願いします。菊田先生、ありがとうございます。 私、データセンター協会の理事長もしておりますので、いわゆるハード整備についても尽力させていただいておるんですが、まさしくおっしゃいましたように、AIの発展のためにはハードが必須であるという状況にあります。産業の米といいますと、昔は鉄であったり原油であったりしたわけですけれども、現在では半導体と計算資源、これがいわゆる産業の米といわれております。実際、オープンAI社も言っておりますように、計算の規模が大きくなればなるほど、モデルの規模が大きくなってくると。 ### 幸い先ほど松尾（参考人） [00:58:16.471] ですので、データとアルゴリズムと計算資源、この3つが非常に重要になるわけですけれども、幸い先ほど松尾参考人からありましたように、例えば製造業をAI化していくということになると、インターネット、ウェブにない情報を入手することができますから、そういった意味で、中国の企業、米国の企業よりも有意なデータは集めることができます。しかしながら、計算資源がなければ、それをAIに仕立てることができない、学習ができないということを意味しております。そのような中で、しっかりと計算基盤を整備していくということが重要です。 ただ、1つ気をつけないといけないのは、電力問題でございます。世界中で電気が足らない状況にありますし、人間の1000倍から1万倍ぐらいのエネルギーを使うと言われているAIが普及する中で、電気をどのように確保するのかということが重要になっているわけですけれども、非常に懸念されているのは、外資系のデータセンターがどんどん日本で電気を枠として確保してしまっていると。例えば、印西市にはたくさんのデータセンターが作られておりますけれども、印西のデータセンター、データセンター協会とNHOさんと協力して、東電さんとともに新たな変電所を作りましたが、 その大半が外資系企業に抑えられていると。ただ、実際に利用もされていないのに、抑えられている状況になっていて、いわばその権利がデータセンターの土地とともに転売されていると。先日も高値で外資から外資に売却されたと。ですので、経産資源であるとか、国の財産というのは、登記の対象にしてはならないというふうに言うのは、コメも同じなわけですけれども、実際に経産資源と電力資源が登記的な対象になり、お金が流れ込まないようにしていくために、一定の規制をしつつも、しっかりとデータセンターと経産資源を整備していく。 ## 議題 [01:00:20.550] ### 4名の（参考人） [01:00:20.550] これが、裏の側面での安全保障につながるのかなというふうに思っております。以上でございます。ありがとうございます。木川田仁志君。時間が来ましたので、以上です。どうもありがとうございました。よろしいですか。次に、大竹理恵君。意見民主党、大竹理恵でございます。本日は、4名の参考人の皆様に貴重な御意見をいただきまして、本当にありがとうございました。それでは、まず伺ってまいりたいと思います。先ほどの質疑の中でも、目に出てまいりましたけれども、今回の日本の法案は、先日の質疑の中の木内大臣の答弁で、 本法案が目指す日本の制度は、諸外国とはまた異なるものであり、政府による監視や検閲を行ったり、あるいは生産金を貸す等の規制法ではなくて、また反対に、完全に自由で法人主義だということでもない。AIの研究開発及び活用の推進が、極めて重要であります。このような規制があるという認識にまず立って、イノベーションの促進、そしてリスク対応もしっかりやる。この両立を図るために、過剰な規制は避けつつ、必要なリスク対策はしっかりと講じる。こういう考えのもとで、今般の法案を提出したと、御説明がありました。 ### 松尾参考人と池谷参考人と安野（参考人） [01:01:39.289] やはり、このリスク対応と、個人の権利保護のための規制と、AI産業の産業力強化などのバランス、これは非常に重要だと思っております。先ほどの木川議員への御答弁で、松尾参考人と池谷参考人と安野参考人は、このリスク対応について言及いただきましたので、田中参考人、申し訳ないですけれども、そのあたりについて、どのようにバランスをとっていくべきか、御意見いただけませんでしょうか。田中参考人、お願いします。ありがとうございます。御質問いただいたリスクとのバランスということですが、まず一つは、やはりAIをしっかりと理解するということが重要だと思っております。 ### 先ほど安野（参考人） [01:02:23.338] AIの利活用だけを理解するのではなくて、AIの開発であったりだとか、最近ですとガードレールと言われるように、一定の範囲内でAIが機能するようにというふうな学習の仕方だとか、そういったものがございます。ですので、AIを作れる技術をどんどん加速させることで、AIのリスクを低減させていく、先ほど安野参考人からもありましたけれども、やはり作れることによって防御もできるということを意味しています。 ### 結局安野（参考人） [01:02:54.802] ですので、AIの開発能力をいかに高めていくかということが、リスク対応に対しては重要ですし、加えてイコールフッティングの話を私、先ほどさせていただいていましたが、日本の企業だけが規制を守って、結局安野参考人からありましたように、不正な外国のAIだけがのさばるようなことになっては、結局実効性がなくなってしまうということを意味しています。ですので、効果のある海外の、いわゆる日本の法律にしっかりと即すような。そういった取り組みをしっかりとAI戦略本部の中で取り組んでいくということの重要性を感じております。以上でございます。大竹理恵君。ありがとうございます。 今お答えいただきました、さくらインターネット株式会社代表取締役社長、田中邦博さん。皆さんご存じのとおり、2024年に日本企業として唯一政府のガバメントクラウドに条件付きで認定をされましたし、北海道石狩にエネルギー効率の高いデータセンターを開設し、クラウドサービスを展開されており、国産ITインフラにおける第一人者としてご活躍されておると存じでおります。今後、AIが進化する中で経済安全保障も考えますと、国内企業からAI関連調達を行える体制を築くことが理想ではありますが、なかなか厳しい現状があることも理解をしております。 ### 田中（参考人） [01:04:21.447] その理想に向けた課題、そして必要な対策についてどのようにお考えか伺います。田中参考人 尾崎先生、ありがとうございます。今ご指摘いただきましたように、昨年2024年にガバメントクラウドの認定を条件付きながらいただくことができました。日本はやはりインフラで出遅れているという状況にあります。先ほど申し上げましたように、経産資源がやはり産業の米になっている中で、それが全くないという状況にあります。私、この国の一つの課題だなと思っております。日本にはすごくたくさんのお金が余っているのに、それが投資をされていない。 何なら海外にはオルカンダとか投資をするわけですけれども、結局、日本に投資しているのは外国の企業ばかりという状況にあります。そういったことで、やはり日本の企業が日本に投資をし、日本の産業を育成していくということが非常に重要だというふうに考えております。そのような中で、私、さくらインターネットの代表もしておりますけれども、日本は昨年から積極的にGPU基盤への投資をしているだけではなくて、今年の1月にラピュラスさんで製造したプリファードネットワークスさんのMNコアというAIチップを我々が世界に向けて売ろうということで発表もさせていただきました。 ### 松尾（参考人） [01:05:46.317] ですので、日本にはテクノロジーもあるし、お金もある。そして、技術者もいるし、まだ国力は高いわけですけれども、それがなぜかかみ合っていなくて、AIで後陣を始めた。そういったことを理解していると。松尾参考人からありましたけれども、ここから復活するのは非常に大変だということはありますけれども、何も持っていなくて復活すると言ったら、気丈の空論であるわけですけれども、リソースを十分に持った上で、これから復活をするということであれば、十分にそれは可能だというふうに思っております。以上でございます。ありがとうございます。大竹理恵君。ありがとうございます。 今回の法案には、第15条に教育の振興という条文が書かれております。はい。日本のデジタル関連教育は、参考人の皆さんがおっしゃった通り、大変遅れているという認識がございます。IT人材の不足も深刻で、経産省の予測によれば、2030年には最大で約79万人のIT人材が不足するとされております。今後、関連産業発展には、やはり人材育成が大変重要であると思っております。今後のAI産業発展のため、日本における教育の振興について、子どもたち、一般の方々、そして職業訓練を含めたリスキリング等において、必要な教育は何だとお考えでしょうか。15分までなので、 ### 4名の（参考人） [01:07:13.770] 申し訳ないですけど、4名の参考人の方に、少しずつで結構なので、端的に、この教育の振興について、どういったことが必要か、一番思いのあるところを教えていただけたらと思います。松尾参考人から、よろしくお願いします。はい。では、松尾参考人から簡潔に答弁してください。はい。ありがとうございます。そうですね。今、高校の情報の、情報の教育も、だいぶ充実してきておりまして、レベルが上がっていると思います。それから、先ほど私がお話ししましたように、AIを学ぶ人も増えています。いい傾向だと思います。これをですね、ますます加速させていくことが必要ですけども、 ### 次に池貝（参考人） [01:07:57.496] ポイント一つだけ、若い人が、若い人を教える、あるいは、最近学んだ方が、次に学ぶ方を教える、ということが、最も重要じゃないかと。今までの教育は、ややもすれば経験の長い方がですね、教えてきた。そこの考え方を変える必要があるんじゃないかというふうに思っています。以上です。はい。次に池貝参考人お願いします。はい。ありがとうございます。私から一つあげるとしたら、やはり、リスクを応募を正しくして、そして、それに対する回避の仕方というものを身につける。これは、これまでのインターネットに関わる、青少年法等においてもそうであったんですけれども、 ### 次に田中（参考人） [01:08:40.415] やはり、今の状況というのは、それが常に変わり続ける、変化し続ける。そのことについて、しっかりと継続的な学習をしていくための態度、姿勢、そしてその学び方ということを、しっかり身につけていただく。このことが大変重要かというふうに考えております。はい。では、次に田中参考人お願いします。ありがとうございます。端的に誰も言わなそうな意見で言いますと、口コミだというふうに思っております。私、会う人、会う人に、絶対、生成AIがいかに便利かというのを、説いてまわっております。その人が、自分で学ぶという気になれば、本当に1週間もすれば、すごく使いこなしていると。 ### 庵野（参考人） [01:09:24.786] その人たちが、またすごいよ、すごいよということで、口コミが伝播していければ、国民全体に広がるでしょうし、正直なところ、外から言われても、変わらないですけれども、例えば、おじいちゃん、おばあちゃんでも、友達のおじいちゃん、おばあちゃんに、AIすごいよと言われたら、やはり使うでしょうし、若い人もそうだと思います。そういった草の根のつながりというのは、非常に重要かと思います。以上でございます。次に、庵野参考人、お願いします。端的に申し上げると、私が重要だと考えているのは、AIへのアクセス、広いアクセスを担保することだと思います。今、私、未踏Jr.という、 中高生向けの、教育のプログラムに 参加しておりまして、中高生見ておるんですが、非常に今の中高生、プログラミングを学ぶスピードが、速いんですよね。我々の時代よりも、圧倒的に速いと。聞いてみると、それは、チャットGPTであるとか、LLMに 色々聞きながら、どんどんどんどん、自分で学び続けているんだと。一方、これを見てみると、同じ中高生であっても、親からチャットGPTであるとか、LLMを、アクセスを渡されていない学生と、渡されている学生の間で、大きな差がついてしまっているというのも、また事実でして、この広く平等なアクセスというのを、 ## 参考人意見陳述 [01:10:52.400] ### 三木恵（参考人） [01:10:52.400] 担保するというのが、一つ重要なのではないかと、考えております。以上で終わります。ありがとうございました。はい、よろしいですか。次に、三木恵君。日本維新の会の三木恵でございます。本日、3、5人の、4名の皆様、お忙しい中、おいでくださいまして、本当に、ありがとうございます。色々なご意見を、伺っていて、今、法案は、推進法であって、私は、人間中心のAIに対する、社会ということで、広島AIプロセスや、様々な経済産業省の出している、ソフトローなども、目を通してきましたけれども、今回はやっぱり、推進法であり、基本法ではない、というところで、AIの基本計画の中に、 ### 4名の（参考人） [01:11:37.094] 様々なことが、盛り込まれて、書かれていくのだろう、というふうに、聞いてはおります。その中で、やはり、一番大切な理念と言いますか、どのような理念を、このAI基本法の中に、基本計画の中に、盛り込んでいくべきか、というふうに、考えているのか、というところを、4名の参考人の皆様方に、お伺いしたいと思います。では、松尾参考人、お願いします。ありがとうございます。どのような理念か、やはり、人々の生活を豊かにする、社会を、より豊かなものにしていく、ということだと思います。AI、テクノロジーの話ですけれども、テクノロジーそのもの、ではなくて、 ### 次に池貝（参考人） [01:12:20.013] どういうふうな影響を与えるのか、どういった社会を作っていきたいのか、ということを、しっかり考えていく、そういったことも、しっかり理念に入れるべきではないか、というふうに思います。次に池貝参考人、お願いします。ありがとうございます。一つ、挙げさせていただくとすれば、やはり、それは人間中心という、理念であろうというふうに思います。そのことというのは、やはり、さまざまなリスク対応の施策等を通じて、もっかい、問題というのを解決していくというのは、それを含まれるわけでございますけれども、それと同じか、それ以上に、やはり人間にとって優しい、人間にとって安全な、 ### 次に田中（参考人） [01:13:04.708] そしてまさに豊かな生活を、長い目で見ても、作り出すための技術開発、そしてその運用というものに、国としてもしっかりコストをかけて、取り組んでいくのだという、技術開発イノベーションの方向づけ、ということも含まれる、コンセプトかというふうに思っております。はい、次に田中参考人、お願いします。三木先生、ありがとうございます。私、この法案に関して思うのは、やはり、法治国家として、法律のもとにAIをしっかりと管理をしていく、ということの重要性であります。と言いますのも、ソフトローデということで、AI戦略会議の中で、2年前から議論しておりましたけれども、 ヨーロッパでですね、AIアクトが発動し、そして、やはり法律的なバックグラウンドがない中で、日本の権利が支障できない状態というのは、絶対に避けないといけない、というふうに思っています。またですね、日本においては、法律に定まっていることに関して、事業をするということに対して、海外だと、法律に定まっていないからやっていいんだ、というふうな動きがよく聞かれる話でございます。これが放置されてしまうと、日本には法律がないから、何でも自由にやっていいんだ、というふうに海外がやってきて、逆に日本の事業者は、法律に定められていないので、既存の法律に則りながら、 ### 庵野（参考人） [01:14:32.966] 慎重にやろうということになると、それこそ海外の事業者ばかりが、利する状態になって、結果として、国府が流出するということに、つながりかねない、というふうに思っております。そういった放置国家としての、日本の覚悟というのを、世界に知らしめるために、非常に重要な法案だと、私は思っております。以上でございます。ありがとうございます。では次に、庵野参考人、お願いします。ありがとうございます。端的に理念というところで申し上げると、やはり人間の一人一人の、可能性を広げる、というところかなと思っています。同じテクノロジーであっても、 ### 三木恵（参考人） [01:15:14.918] 人間の可能性を狭めるような使い方もできますし、広げるような使い方もできるわけで、このAIという技術、我々の人間の可能性を広げていく、という方向に使っていこう、ということが重要なのではないかと思います。はい、三木恵君。ありがとうございます。やはり、生成AIが発展していく、私たちも、それを促進していく、日本の国府のために促進していく、という法案だとは、いうふうに思うんですけれども、生成AIの分野が、非常に進歩が早くて、先日の、内閣の委員会の中で、私も質問をさせていただいた中で、AIが人を騙すような、知能を持ってきている、というようなことが、ございます。 ## 参考人意見陳述 [01:15:59.612] ### 4人の（参考人） [01:15:59.612] その中で、やはり、知能を超えるAIというものが、開発されてくるのが、近未来的に見えている、というような中で、どのようなことに、今後、政府は気をつけていかなければならないのか、というところを、教えていただけたらな、と思います。ぜひ、4人の参考人の方に、お願いいたします。はい、もう一度、松尾先生からでいいですか。松尾参考人。知能を超えるような、AI、AGIという 言い方もされますけれども、そういった開発に向けて、世界が、しのぎを削っている、ということかと思います。そういった中で、いろんなリスクがあるわけですけれども、先生がおっしゃられたような、 人を騙す知能、これは、少し、注意が必要でして、人を騙すAI、というのは、あるわけですけれども、ただ、AIが自ら、人を騙そうと思って、騙しているわけではなくて、その裏には人がいて、それがAIを使って、人を騙そうとしている、そういうふうに、技術を使っている、ということです。ですから、技術そのものが悪い、ということではなくて、自分自身も、今回の法案で、作られます、AI戦略本部中心になって、どういった使われ方がしているのか、そこに、そういったリスクがないのか、というのを、素早く察知して、対応していくということが、重要かと思います。 ### 池貝（参考人） [01:17:26.257] 次に、池貝参考人、お願いします。ありがとうございます。一つ申し上げるとすれば、先ほど、問題が顕在化してから、立法事実が我が国で明確になってから、対応する検討を始めるのではなく、常日頃から、その端緒が生じたときに、いかなる制度的対応の選択肢があるのか、ということを、継続的に検討していく。人間を騙すという意味ですと、例えば、我が国でも、昨今問題になりました、有名人の投資詐欺、SNS広告問題でございます。それが、大きな社会問題になる、すでに3年、4年前、英語圏では、非常に深刻な問題として、我が国よりも早く、制度的対応を含めた検討をされていた。さらに、 ### 田中（参考人） [01:18:10.629] 昨今ですと、AIを使った、ディープフェイクを使った振込詐欺のようなこと、そして、ディープフェイクの問題、このことというよりも、世界的状況というものの端緒、そして、これが日本で起こる、隔離能性というものは、自分に考えられる、そういった検討を常に続けておくこと、これが重要かというふうに存じます。次に、田中参考人お願いします。ありがとうございます。一つ気をつけないといけないところとしては、AIを使わないことだというふうに思っています。ただ、AIを全く使わないということにはならないですし、犯罪者も使ってくることになります。ですので、法案審議において、 LLMに聞いちゃって、それを基に法案を作るとなると、そのLLMが、国会議員の皆さんが、衆議院、参議院とともに、自分たちで作った、国会専用のLLMで、それで生産性を上げるために作るということは、十分に考えられると思いますけれども、AGIのような、本当に発展したAIを基に、例えば、国の方向性を決めるようなことに 使ってしまうと、そこに、AGIが入った場合に、国が騙されてしまうと、一回法律が作られてしまうと、取り返しがつかないことになりますから、そういった意味で、どこでAIを使うのかということに対して、十分に考えると、ただ、AIを使わないのではなくて、 それぞれに向けたAIをしっかりと作って、管理された中でのAIを使うことにすると。もう一つは、とはいえ犯罪者は振込詐欺だとか、AIを使って攻撃をしてくるわけですけれども、やはり生成AIに対抗できるのは、生成AIしかないと。振込詐欺の電話に対して、振込詐欺だということを、息子さん、娘さんの声だったとしても、違うと判定するような、AIを開発している人たちがいます。ですので、AI対AIの戦いになっているわけですけれども、しっかりと生成AIを含めた、AI開発力を高めていくことで、防御力をしっかりと作っていくということが、一番の対応法じゃないかな、 ### 庵野（参考人） [01:20:23.098] というふうに思っております。以上でございます。次に、庵野参考人お願いします。ありがとうございます。先ほど松尾先生と田中さんが おっしゃっていたとおりだと 思っていまして、AI自身が、自ら人を騙していくというよりも、他の、例えば、勢力がAIをフルに活用しながら、攻撃してくる方が、より現実的には、脅威だと思っております。それに対抗するためには、やはりですね、我が国でしっかりとした、科学技術を発展させ、AIを発展させ、対抗できるような、技術を作っておく、ということかなと思っております。三木恵君。ありがとうございます。興味津々で、 お答えを聞かせていただいているんですけれども、いろいろ聞きたいことは、たくさんあるんですが、私が一番懸念をするというか、今後どうなっていくのかな、というふうに、ちょっと不安を覚える部分というのは、EUは規制の方に行っていると。アメリカの方は、促進の方に行っていると。自主主義国家ではない国では、こういうAIに対して、ある意味、倫理観を飛び越えたような、促進を、開発とかを、していっているんじゃないかな、ということが、やはり一般的な不安として、残ってくるわけでございますけれども、そういった国々に対抗するというか、主に軍事面になるとは思いますけれども、 ### これは松尾参考人と池貝（参考人） [01:21:50.066] そういったことで、やはりきっちりと対応していかなければ、ならない。そして、EUの規制法で、非常に知識を持っていらっしゃると思いますけれども、この間の委員会でも、申し上げたんですが、最後にEUで揉めたのは、生体認証を使うかどうか、ということで、揉めたというふうに、聞いておりますけれども、もちろん中国なんかは、そのものをバンバン使っているという中において、今後そういった国々に対抗していくために、どのような法を作っていけばいいのか、ということを、これは松尾参考人と池貝参考人に、お願いをいたします。では、松尾参考人お願いします。ありがとうございます。 ### 次に池貝（参考人） [01:22:34.276] おっしゃる通り、中国、技術レベルも高いですし、国全体で、データAIの活用に、踏み込んできますから、非常に進歩も早いと、いうことだと思います。こういった、技術の進歩に対応していくには、やはり、日本でも、開発力をつけていかないといけない、ということですし、日本だけじゃなくて、いろんな各国が、うまく連携しながら、研究開発活用を進めていって、全体としてのレベルを上げていく、どこかだけが、独占的に強くならないように、していくということが、必要かなと思います。次に池貝参考人お願いします。ありがとうございます。ご指摘の非常に重要な問題に関しては、一つは、 我が国だけで対応することが、どうしてもできない問題。このことについて、本法案の中でも、特に国際連携、そして規範形成に対する貢献の、我が国のあり方ということを、非常に重視されておりますけれども、そのことをしっかり進めていく。そして当然、もう一つは、もしかすると行われる、あるいは既に行われているかもしれない、我が国の国民というものを、どのように守っていくかということ。例えばこのことに関しましては、これまでも、既に話題として出ております、ディスインフォメーション、あるいはフェイクニュースの問題、これは国際的には、 2018年、19年のケンブリッジアナリティカ問題、外国からの政治的な、その国の決断というものに対して、干渉があったのか、なかったのか、このことについては、やはりアメリカでも、ヨーロッパでも、そしてEUでも、これやはり、徹底的な検証に基づいて、実際にそれが行われて、どのような手法がとられていて、どのような影響があったのかということを、これやはり、徹底的に数百ページ、数千ページに及ぶような、分析をして報告書というものを、作っているわけでございますね。そして私も、我が国でこのフェイクニュース対策等に関わる、さまざまな政策議論にも関わらせて、 いただいてきたのですけれども、その中で、最近になるまで、我が国にそういった、例えばインフルエンスオペレーションが、行われているのかどうかということを、徹底的に検証をしている、組織や機能というものが、我が国に存在するのかどうかというのが、実はよくわからなかった、というのがあります。なかったとしたら、大変な問題なわけでございます。今はしっかり、おそらくさまざまな形でされている、というふうに思うのですけれども、先ほどディープシークの言及も、言われましたけれども、やはりそのことをしっかり、徹底的に検証していく、そして国民に対してわかりやすく、 ## 質疑 [01:25:26.760] ### 庵野参考人と田中（参考人） [01:25:26.760] その避け方を検討する、そういったことが、この法案に基づく体制整備と、そしてリスク管理というところで、進められていくことを、非常に期待するところでございます。三木啓君。質疑時間が終了いたしましたので、まだまだ質問をいろいろとしたかったのですけれども、本当にありがとうございました。よろしいですか。ありがとうございます。早速質問させていただきます。まず、庵野参考人と田中参考人に、伺いたいと思います。先ほど来から、AIの今回の法案は、推進法だということで、今後、基本計画や指針や、さまざまな政策を含めて、AI法に基づくAIの政策が、次々と作られていきます。 ### 田中（参考人） [01:26:11.293] その中で、私はリスクの最小化、もちろん大事なのですけれども、それのみならず、やはりビジネスをやっているお二人としては、AIの便益や機会を、何しろAIの導入促進ということを、今後、具体的に進めていくのが、私は大事だと思っています。そういった意味では、庵野さんは、大変厳しい、いろいろな意見がある中、AIには日本の正気がある、ということを述べています。ぜひそれについて、お聞きをしたいと思います。さらに、法規制が課題でもある、ということもおっしゃっています。そして、田中参考人には、作る国ということを言っていただきまして、そこから取り上げておりまして、 ### 庵野（参考人） [01:26:55.503] GAFAだけでなく、イスラエルやインドなどは、貿易黒字、デジタル黒字にもできています。産業と組み合わせることで、私はデジタル赤字、解消できるのではないかと思っておりますが、ビジネスの観点から、お二人にまずお聞かせください。では、庵野参考人からお願いします。ご質問いただき、ありがとうございます。まず、AIに対して正気があるのか、という話ですが、私はあるのではないかと思っております。もちろん、簡単な話ではございませんが、しっかりと今の段階から、取り組んでいくことで、正気があるのではないか。その背景には、二つ理由がございまして、 一つは、こういった新しい技術が、どんどん広がっていくときには、その業界で、既に勝っていた勝者と敗者が、入れ替わりやすいタイミングがあると。つまり、例えばインターネットというものが出てきた、SNSというものが出てきた、ことによって、Google、Facebookなどの企業は、ビッグテックとして、どんどん大きくなっていったタイミングで、スマートフォンみたいなものが、出てきたときにも、Appleであるとか、他の、Samsung、OPPOみたいな、スマートフォンの企業が、どんどん大きくなっていったと。今回は、次はAIという、 全く新しいパラダイムの技術が出てきた。このタイミングは、今まで負けていた会社が、上に上がっていく、今までなかった会社が、上に上がっていく、非常に稀有なチャンスだと思います。ここは、ファウンデーションモデル、ファウンデーションモデルに関しては、なかなか今から参入というのは、難しいかもしれないんですが、そういった基盤モデルを活用しながら、事業をする、AIを使いこなす、レースというのは、まだまだ始まったばかりなのかな、と思っておりまして、ここはまだ無数にチャンスがあると思っています。二つ目の理由としては、日本の人口構成がもたらす、 ### では田中（参考人） [01:29:02.970] インセンティブというところだと思っています。何を言っているかというと、労働人口というのが、どんどん日本は、この先減っていくわけですよね。そうなると、雇用の問題よりも、この減っていく人不足の状況を、どう解消するのかということで、各社ですね、AIを積極的に導入するインセンティブというのが、生まれていると思います。これはですね、このモメンタム、勢いをうまく活用していくことで、この始まったばかりのレースで、しっかり勝っていくのが、重要なのかなというのが、私の意見です。では田中参考人、お願いします。田中先生、ありがとうございます。ほとんど案の参考に、5人から、 ありましたけれども、やはりAI自体で、いかに売上を上げていくかということが、この国が求められていることだというふうに思っています。利益というのはですね、売上を上げるか、コストを下げるか、このどちらかにおいて、生まれるわけですけれども、日本はこの30年、コストを下げることで、利益を増やしてきました。そうなるとどうなるかというと、給与も減っちゃいますし、サプライチェーンに払うお金も減っていくと。どちらかというと、結果的にGDPは上がるはずだというふうに思っています。ですので、人口が半分になろうとも、1人当たりのGDPが倍になれば、 日本のGDPは維持できるわけであります。そういった意味で、AIをことさらコストダウンに使うのではなくて、もちろん生産性の向上であるだとか、省力化に使うということも、非常に重要なわけですけれども、もう一つは、いかにAIで産業を作っていくかということが、重要だと思っています。例としては、やはり日本は、創造者の中で、第二次産業に 属している方が、非常に多いというのが特徴的です。アメリカは、とうとう10%程度と言われていて、それだと、製造業が復活できるわけがありません。しかしながら、日本は多くの人が製造業で働いていて、それにAIを結びつけることで、 生産性が上がる、単にコストが下がるのではなくて、今までよりも、高く物を売れるようになったとするならば、日本は外国ですから、日本の製造業というのは、これまで安く良いものを作るというものでしたけれども、高いけれども、すごく機能が良くて良いものが、AIと共に作られていく。要はAI産業というと、どうしても我々のようなAI基盤であったりだとか、AI自体を作っている人たちが 儲けるように思われますけれども、既存の産業の方々が、AIと共に儲けを増やしていく。そういったAIによって、儲けた話というのを、増やさなければなりません。みんな使っているんだけれども、 ### 田中憲（参考人） [01:31:59.004] コストダウンしただけの話が多くて、ぜひ皆様の周りでも、AIで売り上げを伸ばしたんだという話が、増えていくならば、これは日本の国は、AI産業自体じゃなくて、AI産業をもとにして、全産業がAIと共に膨れていくということに つながるのではないかなというふうに考えております。以上でございます。ありがとうございます。田中憲君。国としてもアプリ進歩を、法整備をしまして、今年中に実行ということでありますので、さまざまな形でAIを、大変前向きな話をしていただきましたので、進めていければと思っています。そしてAIの活用の 鍵となりますのでが、 お話を聞きますと、プロンプトという言葉が 出てきます。プロンプトエンジニアリング ということでも言われます。これについては、松尾先生、池上先生、庵野さんに 伺いたいんですけれども、松尾先生は、人間とAIの境界がなくなると、大変ショッキングなことで、このプロンプトというものを 説明されていますが、ぜひ、心と内容を お聞かせいただきたいと思いますし、池上先生には、著作権と 絡めて、書いていらっしゃる論文がありました。著作権とプロンプトというのは、どういう関係になるのかということを お聞かせいただきたいと思いますし、庵野さんには、プロンプトの ### それぞれ3人の（参考人） [01:33:25.488] 提示出しが大事だと、指示出しですね。これによって、大きくAIは活用できるということを 書いてございました。それについて、それぞれ3人の 参考人からお聞かせください。松尾参考人からお願いします。ありがとうございます。プロンプトというのは、非常に重要です。私の研究室でも、プロンプトエンジニアリングの 研究をやっていまして、一つ有名になった 研究が、Let's think step by stepという 一文をつけるだけで、生成AIの 能力が、なぜか 上がるというものです。つまり、一歩ずつ ゆっくり考えようねと 言ってあげると、なぜか数学等の 性能が上がるということが あります。それなんかを見ますと、ちょっとこれは、子どもに ゆっくり考えようねと 言うと、落ち着いて 成績が上がるというのと 似ているようなところがあって、不思議だなと。ただ、中を見ると、基本的には次の単語を予測するということを やっているだけなはずなんですけれども、そういうことが起こるのは非常に不思議だと いうことです。そういったプロンプトエンジニアリングの テクニック、いろいろありまして、例えば、目的をはっきりする、文脈をはっきりする、それから自分の意図をはっきり伝える、そうすると良い答えが返ってくるわけですね。これ実は、 ### 次に池貝（参考人） [01:34:54.069] 部下に対しての 言い方も実は一緒なんじゃないかと いうことで、そうしますと、AIに喋っている、喋り方を良くするということは、人に対して喋る、喋り方を良くする ということでもある、そういった意味ですね。人とAIの境がなくなってきているんじゃないかと、そういうふうに申し上げました。はい、以上です。はい、次に池貝参考人お願いします。ありがとうございます。ご指摘いただきました通り、利用者がどのようなプロンプトを AIの中に打ち込み、どのようなコンテンツを生成するかということに 関しましては、これは、著作権侵害の性、負を負けする、ですとか類似性というふうに 予定のところの判断に、様々な形で関わってくるというところであるか というふうに思います。そして、ここをしばらく いわゆるジブリ風と呼ばれるような 画像の生成等が、非常にインターネット上でも 話題を集めることになったわけで ございますけれども、やはりそういったことが権利侵害に 与えるリスクというのは、この開発事業者の側も様々形で、もちろん認識はしておりますので、例えば特定の作家でありますと、あるいは会社さんのようなところで、名前を含むような プロンプト自体を 機械的にはじくということを ご案内の通りしているわけでございますし、それはおそらく、 権利者の方々の権利利益の保護というところにも 大変重要である。しかし、そういった これまでの著作権法の厳密な解釈とは 異なる、あるいはデジタルライツマネジメントの ような方法とも異なる、この例えばプロンプトレイヤーにおける 適切な権利保護のあり方に関する コードオブコンダクトというのが 少なくともまだ業界共通のもの というものはないし、あるいはユーザーに共有されるべき規範というのも 存在していない。そういったレベルでの、まさにソフトローの レイヤーとなりましょうところに関して、いかに規範を見出し、国民と共有していくのかということも この法案の一つの ### 庵野（参考人） [01:37:07.345] 役割としても期待されるところか というふうに存じます。では、庵野参考人お願いします。ありがとうございます。プロンプトエンジニアリングについては 松尾先生がおっしゃったとおり、さまざまな現状テクニックが 存在します。最近私が見て一番 驚いたのは、深呼吸をしろと。深呼吸をしろというのを AIに言うと、AIはもちろん 俳優はないわけですけれども、なぜか精度が上がる。こういう細かいテクニックというのは 今たくさんあるんですが、ただ私が申し上げたいのは、こういう細かいテクニックを一般の利用者が 全部知らないといけないわけでは ないんじゃないかと思っていまして、 ### 田中健（参考人） [01:37:52.200] というのも、AIの モデルを作る側の 会社は、そういう細かいテクニックが なくても同じように精度が出せるように 各社頑張っておられるので、そこは一般消費者としては、あるいは普通に使うユーザーとしては、そこまで意識しなくても良くなる未来 というのが来そうだなと思っています。そうなっていくと、やはり必要な情報を 的確に与えるという意味で、まさに対人間と接している ような形で、本当に部下のマネジメントと同じような 技能というのが求められていくのかな と思っております。以上でございます。田中健君。ありがとうございます。さらにキーワードとしてLLMが ### お二人の（参考人） [01:38:36.249] 今日述べられておりました。日本での開発はもちろんのこと、海外との連携も大変重要だということで、松尾先生の方が 東南アジアのLLMを 今進めているというお話がありましたし、圭海先生は、デジタルパートナーシップの中で、欧州の言語データスペースの 必要性を述べておりまして、インターネットアーカイブも これから重要になるということも 述べられておりました。これについて、お二人の参考人から お聞かせいただければと思います。では、松尾参考人お願いします。ありがとうございます。LLMの開発、日本語でやることも 大事なんですけれども、例えば東南アジアの諸国語ですね、 ### 次に池貝（参考人） [01:39:21.105] これをつなぐような LLMの開発を LLMができればですね、日本語が、例えば自然に インドネシア語に変換されたり、マレーシア語に変換されたり ということで、両国間の交流も活発になりますし、いろんなビジネスも増えてくるということで、こういったあたりをですね、日本がイニシアル級を とっていくべきじゃないかというのを 私、考えとして持っております。以上です。はい、次に池貝参考人お願いします。ありがとうございます。ご指摘いただきました通り、やはり我が国の LLMおよび 生成AI、大規模基盤モデルを開発していく中で、やはり、 図書館であるとか、あるいは博物館や美術館が 保有している、様々な知的蓄積のアーカイブというものを いかに活用していくかということは 大変重要だというふうに思います。この点に関して、まさにヨーロッパの中ですと、欧州の多様な原稿を しっかりと偏りなく、しかも正しい方法で、このAIの学習データに利用してもらうための データスペース、と呼ばれる取り組みというのを 大規模に進めているところでございますし、またフランスにおきましては、国立図書館であるところのBNF、それから国立視聴覚研究所の INAが 中心となって、フランス国内のスタートアップに対して 彼らが持っているデータと、アーカイブのデータというものを、やはり厳しい契約の 条件に基づいて 提供し、スタートアップ支援と、そしてそのフランスの 文化のこのAIにおける、活用というところに力を入れたプロジェクトを 進めているところ、我が国においても、国立国会図書館が 保有するような膨大な書籍をはじめとして、あの資産をどのように生かしていくか ということが極めて重要でございます。スタートアップ支援、そしてそれが 我が国の広い意味での主権というものを 確保していくために、どのような枠組みが考えられるのか、ぜひ積極的な検討をしていただきたいという ## 議題 [01:41:31.153] ### 本日は4人の（参考人） [01:41:31.153] ふうに考えております。田中憲君。今回大変様々なご示唆をいただきました。まだ始まったばかりでございますので、しっかりと国会でも議論をして、皆さんと一緒に力を合わせて、AI立国を目指して頑張っていきたいと思います。ありがとうございました。次に笠井浩一君。おはようございます。公明党の笠井浩一でございます。本日は4人の参考人の皆様へ、大変貴重なご意見の陳述をいただきまして、大変にありがとうございました。どうぞよろしくお願いいたします。先ほど、最初に松尾参考人の方にお伺いをいたします。先ほど、AIと人間の境界が だんだん曖昧になってくるのではないか ということを、私も全く同じ感想を持っておりまして、私も今、日々仕事で、毎日AIと会話すると言ってしまうんですけれども、それぐらい、見事に返してくるものですから、以前、私は憲法審査会にも属しておるのですが、憲法審査会でも、ディープフェイクの関係で、国民投票において、どういった対策をしていくのかということで、今、議論になっているわけでありますけれども、これは教育者の立場から、本人から伺いたいのですが、私の大好きな本に、手塚治虫先生の一作であります、ガラスの地球を救えという、結構短い冊子なのですが、その中に、今の高度情報化社会を予見して、 要は膨大な情報量に、人間一人ひとりが包まれるので、何が必要で、何が正しいのか、そもそも、正しい情報という定義自体が、まことに合間になっていくと、いろいろ突き詰めていくと、大人が子供に、生命の尊厳は何たるか、ということを教えることが、非常に重要だというような、言葉をおっしゃっていました。非常に大事な視点だと思っております。これから人間中心のAI社会を進めていく、その中で今回の法制度も、イノベーションの促進とリスク対応のバランス、ということでありますが、これから、教育の中で、あるいはAIとの共生の中で、我々大人が子供に接するときに、 ## 参考人意見陳述 [01:43:41.525] ### 本日は4人の（参考人） [01:43:41.525] 何を大事にしていくべきか、何を伝えていくのか、そういった視点を、ぜひご所見があれば、冒頭ご示唆をいただきたいと思っております。よろしくお願いいたします。松尾さん、公認。ありがとうございます。教育に関してですけれども、一つは、まず、私は割と楽観的でして、あまり心配しない方がいいと。なぜなら、例えば、電卓ができたときに、この電卓によって、暗算の能力が失われてしまうんじゃないか、ということが言われていたり、PC、スマホができてきて、みんな漢字書けなくなるんじゃないか、と言われてきたり、実際そうなったのかもしれませんけれども、またそれを使った新しい能力が、 次々と生まれてきていると。ですから、今の子供たちは、生成AI前提とした社会の中で生きていって、それを当たり前のように使って、また違う能力を発現させていくと思いますので、あまり心配しなくてもいいんじゃないか、と思います。ただ、時代を超えて、大人が子供に伝えるべきことというのは、いつも変わらないと思っていまして、それは例えば、人と人との関係性であったり、信頼であったり、それから歴史とか、文化とか、教養とか、そういったものが重要だということ自体は、時代を超えても変わらない、そういったことをしっかり伝えていく必要があるんじゃないか、というふうに思います。 ### 松尾（参考人） [01:45:10.752] 笠井浩一君。松尾参考人、ありがとうございました。私も、AIはどんどん活用して、いい意味で、この社会が発展していくことが大事だ、というふうに思っておりますので、ちょうど私も今、二児の父がありますので、これからの社会をどういうふうに生きていくのか、そんな視点でお伺いをさせていただきました。続きまして、意外参考人の方に、お伺いをさせていただきたいと思います。今回、AI法制度研究会の一員であるということでありますので、今更申し上げるまでもないんですが、今回の法案の考え方、いわば、既存法で対応できるところは、きちっとそこでハードローで対応して、 それ以外については、指導上限とか情報提供もやるんですけれども、どちらかというと、ソフトローよりのハードローの枠組みがあり、また、ガイドラインでありますとか指針とか、基本方針の中で、ソフトローできちっとそれ以外の部分については、対応すべきなんだろう、というような考え方が示されております。参考人は、論文の中で、EUは共同規制であると、日本もこういった枠組みを、こういった形で対応していくと、その中で、事業者からの情報提供、あるいはモニタリングが、非常に大事だということで、非常に確論ではありますけれども、今後のAI推進法、成立をした暁における、 ### 危害（参考人） [01:46:38.043] 既存法も含めた運用において、非常に大事なオペレーションなのかなと思いますが、ここをしっかり実効的にやっていくためには、何が重要となるのか、御所見をいただきたいと思っております。危害参考人、お願いします。ありがとうございます。特に、情報収集、政府として、しっかり把握をしていくということですと、やはり一つは、今回特に、指導、助言、そして情報提供、この中には社名の公表等が含まれると、いうふうに言ったような、比較的ソフトな方法というものが、中心には置かれている、そして、このことの中で、特に主要な、国際的にも活動されている、実質的に影響力の大きい、 事業者様ということというのは、これは実際の罰則でありますとか、罰則金というふうに言ったような、ところ以上に、ある種のレピュテーションでありますとか、そういったことに対する、国や国民からの評価ということを、非常に重視するところか、というふうに思います。情報提供に応じて、情報の共有に応じていただく、というところを含めて、例えば情報提供と言ったようなところにも、さまざまな、段階でありますとか、あるいは、周知、共有の方法というものがある、というふうに思います。このソフトローのエンフォースメント、今回の法的措置をどのように、しっかり運用していくのか、 ということについて、まさに、さまざまな、手法というふうに言ったようなことを、ぜひ、検討していただくことが重要である。それと加えまして、やはり、この問題というのは、常に未来に開かれているわけでございます。しっかりと、まずは自主的な対応を、今回念頭に置いている、そして、これまでの言論の中でも、既に出てきておりますとおり、やはりそのことで、十分に問題が解決されない、というようであれば、しっかりとした法的規制というものを、運用していくという、このことを、私たち規制の陰というふうに、読んでおりますけれど、やはり、現在作られる法律、そして、将来に向けた、 ### 田中（参考人） [01:48:50.189] さらなる対応の在り方、こういった時系列全体の中で、やはり、事業者様との対話というものを、続けていくことが、一つは重要なのか、私たちも含めて、しっかり取り組んでいきたい、というふうに思っております。続きまして、田中参考人に、また、庵野参考人の方に、お伺いをさせていただきます。このAIの世界は、スタートアップのエコシステムの構築でありますとか、インキュベーションですね。海外は、今回のオープンAIのチャットGPTもそうでしたし、また、ディープシークのR1もそうだったと思うんですけれども、私、非常に注目をしているのは、私たちが、もう本当にこの世界を変え、 ## 質疑 [01:49:34.722] あるいは、新観をさせた部分もあったわけであります。他方で、先日、私、木内大臣との質疑でも取り上げさせていただいたんですが、これはご案内のとおりで、OECDには、様々な各国の能力の調査というものをやっておりますけれども、決して低いわけではないと、我が国は、人材の不足は叫ばれているんですけれども、理数系の基礎的能力というのは、むしろ世界トップレベル、しかも上がってきていると。この人材は不足だと言われていたりとか、イノベーションがなかなか起きていないと。私は、やっぱりどっちかというと、この国というのは、管理志向が強いのかなと思っているんですね。 欧州なんかは、若者に対しては、お金は出すけど、口は出さないというような 文化があったりとかして、非常にそういった文化というのは、いいなというふうに思いますけれども、そういった人材の育成とか、人材が飛躍をしていく仕組みとか、そういった人材の育成とか、社会環境、あるいは労働環境においても、スキルが適正に処遇に 反映されるという仕組みも、非常に大事なのかなと。そうなりませんと、頑張ってスキルアップ、リスキリングしても、特に賃金が上がらなければということも 起きかねませんので、こういったことに対する現状認識、課題、あるいは今後の方策、あるべき姿があれば、 ## 参考人意見陳述 [01:51:03.142] ### 田中（参考人） [01:51:03.142] 御所見をいただきたいと思っております。よろしくお願いいたします。では、田中参考人、お願いします。笠井先生、ありがとうございます。私自身が企業家でございまして、大学中に18歳で起業いたしました。そういう意味で言いますと、当時のインターネットの企業環境は 非常に良くて、法律が何もなかったという状況であります。ですので、何でしょう、通信事業者としての登録だけは、登録と言いますか、届け出だけは 必要でしたけれども、それ以外の規制がほとんどなくて、企業環境としては非常に良かったというふうに思っています。そういった意味で言うと、やはり変化が大きいときこそ、 ### 松尾（参考人） [01:51:47.513] 規制がなくて、チャンスを掴みやすいと。大手さんも動きが遅いので、そこに先んじて入ることができると、いうことが言えます。そういった意味で言うと、すでにITに関しては復活不可能なぐらいに、後れをとっているわけでもありますし、今更、IT企業家が出てきても成功する 確率というのは非常に低いわけですけれども、ことAIで言いますと、始まったばかりの状況にあります。大手さんもそれほど強いわけではございません。また、松尾参考人から ありましたように、GENIACという 経産省さんのGPU資源。これは非常に有効に動いておりまして、スタートアップさんが しっかりとGPUを確保して、成長できる余地を持っているということがあります。私、実は エンジェル投資家でもありまして、70社ほどエンジェル投資をしているんですけれども、やはり最近の若い20代の方というのは、AIスタートアップをかなり 作ってきていて、結構伸びているというのがあります。正直、ITの企業というのは、もう上場もできないというぐらいに ひどい状況にありますけれども、AIのスタートアップであるとか、あと、ディープテックと呼ばれるような、大学発のしっかりと技術を持ったような スタートアップというのは、上場を目指して、実際に高いバリエーションで 上場している事実もございます。そういった企業が出てくることで、加えて、そういった企業は 比較的高い給与で 社員を雇っています。ですので、高い成長をする企業が 日本で大きく伸びていき、それらを支援することで、結果として従業員にも給与を上げていくと。当社も手前味噌ながら、昨年度は15%の 賃上げをしたわけなんですけれども、実際に良い人が 入ってきますし、大企業さんは どんどんどんどん、若い人が 転職していくと言われますけれども、逆に当社は、若い人たちがたくさん 転職してきてくださっていて、やっぱり人の流動化が激しくなる中で、結果的に、労働力が ### 庵野（参考人） [01:53:59.337] どんどん不足するわけですから、どんどん待遇を良くしないと、そして生産性を良くして、新しい産業を 取り組まないと、人を確保できなくなって、この5年で色んなことが変わるんじゃないかと 思っています。ですので、このAIの 変化の激しい時に、スタートアップも、またチャレンジする企業も、伸びていくような社会になるのではないかなと 考えております。以上でございます。ありがとうございます。次に、庵野参考人お願いします。ご質問ありがとうございます。まさにおっしゃる通りだと 思っておりまして、20代のような若い人材を いかに活用できるかというのが、 すごく重要だと思っています。私も、オープンAIの中の話とか、アルファベット、グーグルの中の話、あるいはXAIの中の話を 聞くんですけど、今の基盤モデルが 強い会社の中の話を聞くと、やっぱり、主力の 戦力って別に、20代の前半の方とかも たくさんいらっしゃるんですよね。ので、そういった 若い方の力っていうのを フルに活用するっていうのを、各社やられているなと。おっしゃる通り、18歳時点ではおそらく 日本の理数系の学生の 能力って非常に高いわけですけれども、このポテンシャルっていうのを うまく産業界、スタートアップ業界で 生かしきれてないっていうのが ### 松尾（参考人） [01:55:27.112] 一つの課題なのかなと 思っていますので、まさにその 20代の人材をうまく活用する、そのために必要なことをやっていく っていうことだなと思っています。笠井浩一君。ありがとうございました。しっかりと政策に生かしてまいりたいというふうに思っております。最後ですね、時間もあと1分半ということで、松尾参考人に最後1問だけ改めて 問わせていただきたいと思います。先ほど、田中委員の ご質問でありましたけれども、東南アジアLLM、これ非常に大事かと 思っております。今、米国が 世界経済のリーダーから 自由貿易体制への挑戦者になってしまいましたので、今、亜生案を始める 東南アジアの各国は ある意味脱アメリカという形で 動いております。そうかといって 中国べったりもちょっとどうなのかなというような 状況の中で、この東南アジアの 中で、あるいは亜生案の中で、日本と 各国が共通のいろいろな チャンネルを持っていくということは、非常に 私、国益に対しては、また 今後の日本の輸出大国でありますので、経済のパワーを広げていくという意味で 非常に大事な、これ、価値としてだと思っておりまして、ぜひ、この東南アジアLLM計画、前に進めていきたいと思っているんですけれども、必要な施策とか、我々政治に対する ご注文などあれば、ぜひ、 ## 参考人意見陳述 [01:56:56.500] ### 松尾（参考人） [01:56:56.500] おっしゃっていただきたいと思います。よろしくお願いいたします。松尾参考人、お願いします。ありがとうございます。おっしゃる通り、日本との協力関係というのは、非常に 重要だと思います。実は、私の研究室で AIの講義を提供しておりますけれども、昨年末から、マレーシアとインドネシアにも 提供し始めました。彼らも、非常にAI、勉強をしたがっていますし、おっしゃる通り、自分たち独自で、しっかりやっていきたいという 思いもありますから、日本との協力関係というのを 非常に求めています。そういった人材育成も、基盤にしながら、AIの活用、それから、スタートアップを ## 議題 [01:57:40.872] ### 松尾（参考人） [01:57:40.872] それぞれの国で生み出していくこと、それから、共通の LLMを一緒に 作っていくこと、こういったものを セットにして、外交の一つの 重要な 方向性として 定めていくということを やるべきではないかと、私は思います。以上です。はい、時間が参りましたので、終わらせていただきます。大変にありがとうございました。次に、上村秀明君。皆さん、ご苦労様でございます。令和新選組の 上村秀明と申します。本日はよろしくお願いします。まずは、松尾参考人に お尋ねしたいんですけれども、いろいろとご論考とか読むと、検索エンジンの 日本での失敗を取り上げられて、デジタル配線という 言葉を使って、おられますし、ある意味では、なかなか厳しい状況とか、負けているんだという表現も あるんですけれども、AIの開発の歴史が、ある意味で、戦争と類推できるような 状況であるとすれば、ということを前提に お伺いしたいんですけれども、日本がこの配線したときに、実は、なんで配線したのか、という、いろいろな方も いらっしゃると思いますが、失敗の本質という部分が 検討されなかったんですね。今も一般的に言うと、グッドプラクティス、つまり、なんで成功したかという 分析はよく行われるんですけれども、本来であれば、やはり、バッドプラクティス、 なんで失敗したかという原因も、本当は分析されないと、新しい状況で新しく頑張っているから 本質の部分で間違っていると、また同じことを 違う形でやってしまう ということもあり得るというふうに 思うんですけれども、先生のまず一つは、検索エンジン以来の、日本が失敗した 原因というのは、どこに原因があるのかというのを お尋ねしたいと思います。もう一点、すみません。16条に不正な目的とか 不適切な方法という ことが書かれているんですけれども、もう一つ、AIが 広く社会的な課題と 多分、ぶつかるんだろうな ということを、私は懸念していて、こういうことが、 ### これはさっき田中（参考人） [01:59:53.179] なかなかこの法律には書かれていない ということがあります。具体的に言えば、生産性の向上ということは よく言われるんですけれども、生産性の向上と 生活の向上は別です。これはさっき田中参考人が おっしゃったように、日本のようにこうした技術を コストカットで使おうとすると、生産性は向上したけれども、生活は向上しなかった。先ほど、参考人からも 言われたと思うんですけれども、例えば少子化で役立つと 言われていますけれども、少子化のこの時代に、実は非正規雇用の方が伸びているんです。何で正規雇用しないのかというと、やはり、社会全体の合意事項として、こうした意味での ### 松尾（参考人） [02:00:38.035] コストカット優先で、経済を回そうという ことをやってしまうと、AIも同じように使われてしまう ということを若干懸念しているんですけれども、こういうことに関して、松尾参考人のご意見とかいただければ ありがたいと思います。では、松尾参考人お願いします。ありがとうございます。最初の、これまで負けた理由ですね。大変重要な ご質問かと思います。私は、いろんな経営者の方に お話を聞いて、おりますと、例えば1990年代後半に、今のガーファムに 相当するようなビジネスというのは、いろんな企業に 芽吹いていました。それをやろうとしてきた方も、何人もいると。 ところが、それが、本流のビジネスと勝ち合うから、バッティングするから、等の理由で、中で、あまり支援してもらえなかったと、いう中で、そういった芽が、伸びてこなかったと、いうことがあるかと思います。結果的に、検索エンジン、eコマース等の世界的なサービスが、出てこなかった。これは、ウィーナーテイクオールの傾向が、非常に強いですから、それが、きちんと国の中で育っているのは、今、米中の2国になっていると。そうしますと、AIへの投資も、米中の2カ国が圧倒していると。構造、平坦の部分で、今、負けてしまっているので、苦しいということだと思います。そういった意味では、 新しい芽を摘まない、新規のビジネスを、たとえ、本流と勝ち合うとしても、しっかりやっていく。そういった文化を作っていくことが、重要かと思います。二つ目の点に関して、生産性の向上と生活の向上は、別です。生産性が上がるということは、ある人にとっては、自分の仕事が減る、なくなるということを意味する場合もあると思います。ただ、機械化の歴史で考えてみていただくと、分かりやすいのですが、自動車の生産も、多くの場合、機械化されています。機械化すると、最初は、今まで手作業をしていた方の労働はなくなります。ただ、長期で見ると、生産性が上がり、それが競争力につながって、 ### 池貝（参考人） [02:02:51.472] 生活の向上につながってくるということがありますので、長期では、そこは私は連動していると思っています。ただ、短期においては、いろいろな不具合が出てきますから、そこはしっかりセーフティーネットを作っていくということも、同時に必要かと思います。以上です。上村秀明君。ありがとうございます。生産性の向上で、一般にトリクルダウンと言われて、高いところが潤えば、どんどん下に下がるということがあったのですが、なかなかこの15、6年、うまくいかなかったということもありますので、その辺も含めて、また検討したいと思います。次に、池貝参考人にお尋ねしたいのですが、 これも一般的な話でもあるかもしれませんが、このAIをやるときに、ソフトロー的な自主規制か、あるいは、ハードロー的な法規制にするかという議論が、続いていると思うのですが、参考人の御意見というのは、どちらかというと、EU的でいけば、ハードローだけれども、ソフト的に使うという、ところに近いのではないかと、ちょっと理解させていただいています。私もEUの、2024年のAI法の部分というのは、少し読ませていただきますと、特に、4つの細かい区分に分けて、いわゆるアンアクセプトブル、つまり受けられない、ハイリスク、それからハイリスク、それからリミティッドリスク、 ## 参考人意見陳述 [02:04:20.053] ### 池貝（参考人） [02:04:20.053] それからミニマルという、4つに分けて、結構丁寧にやっているなということを思っています。特に、私、ここに立つ前は、大学で人権法を教えていたものですから、基本的人権の視点に立って、あるいは、いわゆる普遍的価値の視点に立って、この一番厳しいところは、やはり構成されているなというのが、私の認識なんですよね。そういうことでいけば、日本の法制度の中でも、少なくとも、この部分に関しては、もう少しセンシティブにあっていいかな、というふうに思っているんですけれども、その辺のご意見を伺うと思います。池貝参考人、お願いします。どうもありがとうございました。 まず、おっしゃっていただきました通り、私としては、ハードローとソフトローの適切な組み合わせによる、多様なリスクへの対応ということを、非常に重視しておりますところ、やはり、よりハードローに寄せる、あるいはよりソフトローに寄せるという、様々な選択肢とトレードオフがある中で、やはり、今回の法案というのは、罰則というものはついていないのだが、しかし、この指針及び、その調査、指導を、情報提供という手法によって、やはりこれから生じる、非常に様々な、幅広い課題に対して、少なくとも国として、アクションを起こすことができる、 非常に重要だと思っているわけでございますけれども、その運用の在り方という中で、やはりまだ、例えばヨーロッパの、あの4類型というものを、非常に広く受け入れられてきているが、しかしまだ、日本の制度的議論の中で、あれをそのまま受け入れようというふうに言ったような、コンセンサスというものは、今、存在していない。しかし、非常に重要な、参照の枠組みになるのだろう。ぜひ、その指針の作成と、そして、その運用という中で、日本がまさに、確立される途上にある、国際規範というものを、強く意識していただきたいし、それだけの枠組みというものに、 今回なっているというふうに思います。それからもう一つだけ、加えさせていただきますと、今回の法案に関して、しばしば論説などですと、日本としては、EUのAI法とは、異なる道を選んだのだという、解説がされることが見受けられます。しかし、このような判断や決定というものが、AI制度研究会の中でも、なされたというふうには、認識しておりません。むしろ、果たして、これから我が国にとって、最も望ましい制度のやり方というのが、中長期的に何なのかということを、これはもしかすると、しっかり検討してみた結果、徹底的に情報を集めてみた結果、EUのような仕組みというものが、 ### 上村秀明（参考人） [02:07:11.408] 望ましいという選択があるかもしれない。あるいは、意外と、あまりリスクや事後が起こらないということが、明らかになったのであれば、それはもう自由本人の、今の連邦が、アメリカの方法というところに寄せたらいい。やはりコストをかけた検討の体制と、そのためのツールというものが、今回作られること。このことが、やはり今後の我が国の制度選択にとって、極めて重要なところだというふうに考えております。以上でございます。上村秀明君。どうもありがとうございました。今後の議論は、どこに落とすかという議論が、主体的なのかなと思っていまして、アメリカとかヨーロッパというのは、 ### 案の（参考人） [02:07:55.779] 少なくとも基本的人権に関する、概念の共有化というものが、どこかにあるわけですよね。日本の場合、それはないので、そのない段階の中で、ここに落としますと言ったときに、本当にそれが意味を持っているのかというのは、これからもきちんと議論していくべきだ、というふうなことを思っておりました。どうもありがとうございます。最後に、時間もあれなので、案の参考人にお尋ねしたいんですけれども、2024年7月に、都知事選挙があったというのは、記憶に新しいんですけれども、それに立候補されて、15万票というのは、これはもう本当に、政治をやっているとすごいな、 というふうに思うような、得票されました。特にその中で、伝統的な選挙が、私たちの頭の中にあるんですけれども、有権者との対話に、検索拡張生成、RAGという、AIのシステムを利用された、というふうにお伺いしております。月並みですが、AIやSNSのデジタル技術というのが、今後、政治活動や選挙活動で、ますます重要になるということは、確実だというふうに思います。他方、こうした技術が、ある意味で、選挙の不正とか不公正に、影響することも考えられる、また、これも確実な、ところでありまして、これを、習得できる人たちと、できない人たちの、世代間、あるいは、 ### 庵野（参考人） [02:09:22.586] いわゆるデジタル格差の問題とか、それから、今、本当に、アメリカなんかでも、今回の大統領選をめぐって、ある意味では、勝手にフェイクニュースが飛び交う、みたいなことが、言われているんですけれども、そういう意味からして、我々も7月には、参議院選挙がまたあるんですけれども、政治と、こういうAIの関係、あるいは、選挙とAIの関係というのは、どういうふうにお考えかというのを、ちょっと意見をいただければと思います。では、庵野参考人、お願いします。ご質問いただき、ありがとうございます。私の考えですと、こういったAI技術というのは、どちらの可能性もある。つまり、 声を広く拾うために使うこともできれば、フェイクニュース、ディープフェイクのような、問題を引き起こす可能性も、両方あるものだと思っています。私の経験を少しだけ、ご説明すると、この前のですね、7月の都知事選挙では、ブロードリスニングという言葉を使って、説明していましたが、これはブロードキャストの逆ですね。通常選挙ですと、政治家、候補者の考えていることを、一方的にブロードキャストする、というやり方がとられていますが、今、AIを活用することができれば、いろんな人がいろんなことを言っていることを、できるんじゃないかということです。 おっしゃっていただいた通りですね、我々はラグと呼ばれる、仕組みを用いて、私のマニフェストを学習させた、AIを用意して、そこにですね、24時間、ずっと誰でもですね、1対1で、質問ができるようにしたわけですね。こうすることによって、2つ良いことがございました。1つは、どういった方が、どういう質問を抱えているのか、どういう批判があるのか、ということに対して、一人一人の聞き方、答えてくれるようになったということ。2つ目はですね、その会話のログを見たときに、私がですね、あ、実はこの政策って、全然響いてなかったんだなとか、 ## 参考人意見陳述 [02:11:31.021] ### 庵野（参考人） [02:11:31.021] ここは実はものすごい批判が多いところなんだな、ということを学びを得られるということですね。ので、こういうふうにAIを使って、コミュニケーションを増幅していくことで、よりいろんな方の声を、聞くことができるのではないか、その活用というのは、本当にこれからの政治によって重要なのではないか、というふうに思っております。はい、なかなか課題も多いんですけども、可能性もあるということでですね、大変貴重なご意見、皆さんに、田中さん、すみません。先ほどのご意見は引用させていただきましたので、じゃあまた、今後ともよろしくお願いいたします。はい、よろしいですか。 ### 4人の（参考人） [02:12:15.070] 次に塩川哲也君。塩川哲也君。日本共産党の塩川哲也です。4人の参考人の皆様には貴重なご意見賜り、ありがとうございます。最初に4人の参考人の方、皆さんにお尋ねをします。あの、偽情報、誤情報の対策の関係ですけれども、このような、偽情報、誤情報の作成に、AIが使用され、拡散されることによる、情報操作等、というようなリスクが、顕在化しつつあるとしております。このような、生成AIによる、偽情報、誤情報対策として、どのような技術開発や、ルール作りが必要なのか、松尾参考人から、順に4人の方に、質問をいただきます。では、松尾参考人、お願いします。ありがとうございます。 偽情報、誤情報、非常に重要な問題かと思います。生成AIで、様々な画像等を生成できるようになっています。それに対して、技術的には、それを見破る技術というのがあります。生成AIで作ったかどうかを判定する、という技術ですね。こうした技術をしっかりと、開発していくということも重要です。それから、発信者を、明示する、発信者を特定できるような、情報を付与するという、技術もございます。こういった仕組みを進めていく、ということも大事かと思います。あと、もう一つは、リテラシーを高めていく、ということで、一つの情報だけで信じない、必ず出典であったり、 別情報が当たるということを、国民に広く啓蒙していく、ということも重要かと思います。以上です。ありがとうございます。すでに、後半のご説明があったところで、ございますけれども、少し若干、私の観点から注目している、技術的要素といたしましては、AIが生成される、ペニス情報が生成される、そして、それが流通するのは、しばしばまさしく、SNSをはじめとする、デジタルプラットフォームの上であるわけです。そうしたときに、EUでは、AI規則と、そしてデジタルサービス法という、プラットフォーム規制の法制度を 組み合わせることで、AI規則の中で、そのAIで 生成された画像に対して、機械化学可能な電子透かしを 埋め込むことを義務づける。そして、デジタルサービス法の中では、それを流通させることを 止めることはできないにせよ、そうした機械化学の ボタンマークがされたものを 読み込んで、ユーザーに インターフェースの上で、わかりやすく、これはAI生成コンテンツである、というふうに言ったようなことを、きちんと表示するような、このプラットフォーム規制とAI規制の 技術的対策を組み合わせた法制度というものを 構築しているわけでございます。こうした形で、AIに関わる問題は、やはりAI側だけで、 ### 田中（参考人） [02:15:09.329] 解決するものではございません。多様なレイヤーにまたがる技術的対応というものを、ぜひこの法案の中でも推進していただきたいな、というふうに思います。次に、田中参考人お願いします。塩川先生、ありがとうございます。私、インターネットプラットフォームの プロバイダー協会という業界団体の 副会長をしておるんですが、その中で、20年ぐらい前から、プロバイダー責任制限法というものを、しっかりと強化をしていって、法のもとで発信者の責任を明確にしていく、という取り組みをしてまいりました。もちろん、通信の秘密がございますので、 ### 先ほど（参考人） [02:15:50.473] 中を検閲するということはできないわけですけれども、しかしながら、その情報を誰が作ったのか、ということを明確にし、そのフェイクニュース、多くの場合は放置されていることが ありますので、放置されていることは問題であって、そもそも、精製されないことが重要なわけですけれども、どうしても精製されてしまうと。ただ、その精製した人が、法のもとでしっかりと責任を果たすということが、明確にできればいいわけですけれども、それが十分にできていないのが、今の課題であるというふうに考えております。そういう意味で言いますと、先ほど参考人がおっしゃったように、 ### 庵野（参考人） [02:16:33.715] 既存法とうまく組み合わせていく、また、私自身は既存法を しっかり利活用していくということも 重要だと思っていまして、AI発信、そして機械が作ったとしても、その裏には、それを作った人間がいるということを 明確にするために、少なくとも国内においては、AIにおけるコンテンツを作った人を、ソース、誰なのかということを明確にし、それを被害を受けた人たちが、法的にしっかりと保証される枠組み、これが必要かと思っております。以上でございます。ありがとうございます。では、庵野参考人お願いします。ありがとうございます。まだ触れられていないところで、 これだけ私から補足させていただければと思います。1点目は、先ほど田中さんがおっしゃったことに 近いんですけれども、今、SNS上などで、誤情報であるとか、名誉毀損であるとか、そういった情報というのは、AIを使ったものに限らず、ものすごく多く出てきていると思っています。課題の一つは、このSNS上で生まれている 誤情報、名誉毀損みたいな情報が 生まれる速度と、それを司法であるとか、それと同じように、ものすごく大きな差が開いてしまっていると。これは、今後、よりAIによって、生まれる速度が加速していくという中で、そもそも司法で処理する速度みたいなものを どういうふうに上げていけるのか、そこが一つの課題になるんだろうなと、いうふうに思っています。二つ目が、こういった誤情報の拡散を より止める一つの手段として、プリバンキングと呼ばれているような 手段がございます。これは、誤情報が広まる前に、こういった誤情報が現れる可能性があるよ ということを周知するような 手法でございまして、もちろん、ここで全て止めることはできないんですが、例えば事前に、政治家の顔が ディープフェイクで変えられて、それによって、本当は言っていないんだけど、こういうことを言っているということが 起きうるんだよというのを、 ### 池林（参考人） [02:18:44.571] 例えば選挙の事前であるとか、重要な政治的なイベントの事前に ある程度、周知しておくと。そういったようなやり方というのは、一定有効だと 説明されておるので、そういったものを取り込むというのは 一つあるかなと思っております。塩川哲哉君。ありがとうございます。次に、池林参考人に EUのAI法に関して 何点かお尋ねをいたします。EUのAI法では、AIによるリスクを4段階に分ける。許容できないリスクについては 禁止という形で、罰則も極めており、このようなハードローとソフトローを 組み合わせをした、そういう仕組みとした理由というのは どこにあったのか、 ### 池林（参考人） [02:19:28.620] そこについて御説明いただけますか。池林参考人、お願いします。ありがとうございます。このことにつきましては、まずやはり4段階のリスク類型の分類 ということに関しては、やはり絶対に 侵害されてはならない 人々の基本権、それに対するリスク、そして、またリスクは限定的ではあるが、やはり、できる限り可能性というものを 減らしていく必要がある。そうしたような、リスクベースの考え方に基づいた 段階分けだという、段階分けの中で、ハードローとソフトローを 組み合わせる形で用いていると 認識しております。塩川哲也君。ありがとうございます。池林参考人は、 EUではサイバーフィジカル連携、すなわち、サイバー空間だけでなく、サイバー空間に デジタル技術が染み出してくる 部分に関するルール形成に 熱心に取り組んでおられる、EUにおいては 取り組んでいるわけですが、その最たるものがAI法だと。今後、様々な製品やサービスに AIが使われ、組み込まれるようになると、これまでは想定しなかったような リスクが生じる恐れがある。サイバー空間とフィジカル領域の 両方で、利用者の基本権を保護するため、予防原則に基づいて 規制をかけようというものなのか、その点について、御説明をいただけないでしょうか。 ### 池貝（参考人） [02:20:54.942] はい。池貝参考人、お願いします。ありがとうございます。御指摘のとおりかというふうに 認識しております。やはり、今まで、自分が 自分が 自分の 自分の 今までデジタル技術に関わる方が 想定するリスクというふうに 言ったようなものは、やはり、これまでEU法の中でも、いわゆるGAFAMがデジタル空間の中で 起こすリスクにどう対応するか といったところに、焦点が当てられてきたところ、まさしく、IoT化、そしてAIが 組み込まれた製品というふうに 言ったようなこと、そのデジタル空間の リスクというのが、まさに我々の日常生活、この空間、家の冷蔵庫、トイレ、 ### 塩川哲哉（参考人） [02:21:39.314] あるいは、テレビ、そして車 というところに、やはり 直接、不可分に 関わってくるようになってくる。そうした包帯系というふうに 言ったようなものを構築する、一つのビルディングブロックである。その中で、やはり予防原則と おっしゃっていただいたとおり、EUの規制というのは、全体的に 予防の観点というところに 少し寄った形で、やはり積極的な 対応というものを行おうとしている。その形というものが、AIアクトというEU法である というふうに、考えております。塩川哲哉君。もう一問、EUのAI法について。このEUのAI法では、高リスクには、製品やサービスは、 市場に投入される前に、第三者による適合性評価を 受ける必要があるなど、厳しい手続きが義務付けられていると 承知をしております。この高リスクには、雇用における採用、選考、雇用関係の 条件や昇進、雇用の 契約関係の終了も 含まれていると承知をしておりますが、EUにおいて、どのような問題意識から、この雇用の問題を高リスクと 位置づけているのか、この点について、御説明いただけないでしょうか。はい。ありがとうございます。特にEUの中では、歴史的にも、労働者の権利というものが、強く重視がされてきたという、側面という、経緯というのも、 一つあるところございますけれども、やはり、私たちの 生活というふうに 言ったようなこと、そして、ある種の 政策予達というものを、労働というものは、常に持っているわけでございます。例えば、労働環境でのパフォーマンス ということが、AIによる評価でもって 決定されて、それに対する説明も、反論の余地もないということ、あるいは、より広く、例えば、シェアリングエコノミーのような、いわゆる、開いた労働の形態の中というのは、現実に、そういったような評価と、場合によっては、アカウント停止が、それそのまま、いわゆる、解雇になるわけでございます。 ### 池上（参考人） [02:23:48.879] まさに、サイバーフィジカル連携。そうした中で、まさに、人間の最も基本的な権利であるところの、労働する権利、そして、それによって、生活の過程を受ける権利と、得る権利というものを、そうした考え方が、特に、労働分野を、ハイディスクと位置づけている背景には、あるのかなというふうに、認識しております。塩川哲也君。もう一問、最後に、池上参考人に、お尋ねするのは、今日のお話の中でも、国立国会図書館の話が紹介されまして、私も、国会に身を置いているものとして、国会図書館をご紹介いただくのは、大変嬉しく受け止めたところであります。WARPと言われる、インターネットの、 資料収集保存事業に、国立国会図書館が、ずっと取り組んでいる、1か月ぐらいで、行政機関などを、きちっと記録とっていくという、私なんかも、活用する際に、やはり、役所側の、途中でホームページを書き換えたりすることが、あるものですから、過去に遡ってチェックをするとか、という際にも、参考にもできるものであるのかな、と思っておるわけでありますけれども、こういった、国立国会図書館が取り組んでいる、デジタルアーカイブ、インターネット資料収集保存事業、としておられるか、また、今後、こういうふうにやったらいいんじゃないか、というアドバイスもあれば、 ご紹介いただけないでしょうか。どうも、ありがとうございます。国立国会図書館のウェブアーカイブは、非常に重要な事業だというふうに、考えております。他方で、国立国会図書館のウェブアーカイブ事業は、基本的には、無許諾で網羅的に、収集しているのは、政府機関及び自治体の公的機関の ウェブサイトだけなのであります。それに、例えば、アメリカでは、フェアユースに基づいて、民間の残体がインターネットアーカイブ、ウェイバックマシンというもので、網羅的なアーカイブを作っていることに加えて、例えば、把握している限り、イギリスやフランスなどでは、国会図書館が、 ドットUK、ドットフランスなどの ウェブサイトというものを、網羅的に収集と保存をしているわけでございます。先ほど来、フェイクニュースへの対応というものが、大きな課題として振られてきました。民間のウェブサイトも、例えば、フェイク情報を流すために 作られているウェブサイトというものは、作られては消えていく。そういった一つ一つの、情報流通の後からの 検証というものは、広くやはり、日本のウェブサイトというものを、誰かが保存していなければ、できないわけでございます。日本では、まだその、我が国の記録と記憶と、そして検証に必要なウェブアーカイブというものが、 ## 参考人意見陳述 [02:26:44.590] ### 4人の（参考人） [02:26:44.590] まだ現実的に、そこをぜひ積極的に今後、制度の在り方も検討していただきたいというふうに 考えております。以上です。塩川哲也君。終わります。ありがとうございました。はい、よろしいですか。次に、尾形凛太郎君。はい、最後15分、よろしくお願いいたします。4人の参考人の皆様方、本当に今日、ありがとうございます。まずですね、AIの話をするときにですね、一番こういうのに、遠いところにある世界ってどこだろうな、というふうに思ったときにですね、私がいつも思うのがですね、いないんじゃないかと思うんですね。政治の業界が。この中にもですね、恐らく今日審議しながら、 ### 松尾（参考人） [02:27:28.638] そうは言っても、あまり俺関係ないもんね、と思っておられる方、まあまあいるんじゃないかと実は思うんです。この業界、経験値に依拠した言論が、結構有力なことが多いんですけども、これ、松尾参考人と、そして選挙に関わったということで、庵野参考人に、こういうことについて、どう思われますでしょうか。では松尾参考人お願いします。はい、ありがとうございます。そうですね、私の、ちょっと個人的な意見になりますけども、政治は、やっぱり、社会の中で何が大事かを、決めていく、その価値であったり、複数の人の、利益であったり、生活であったり、そういったものを、持っていく場であって、 それはやっぱり僕は、AIには最も向かない、と思います。ですので、そういった意味で、先生がおっしゃるように、AIと最も縁通りというのは、その通りかと思います。ただ、その過程の中で、おそらく、過去の議論を集約するですとか、それから、証拠となる、エビデンスとなる、道具としてAIを使える余地は、多いんじゃないかな、と思っていますので、そういった活用は、ぜひ進めていただきたいな、というふうに思います。次に、庵野さん、ご質問いただき、ありがとうございます。私も個人的な感想といたしましては、松尾先生もおっしゃった通り、道具としての使いどころというのは、 ### 尾形凛太郎（参考人） [02:28:57.381] ものすごくたくさんあるな、と思っております。その意見の意思決定というよりかは、意見ではなくて、いろいろ、各国の過去の事例であるとか、科学的な事例をもとに、どう考えればよいのか、それに関しては、AIのサポートできる部分というのは、かなりたくさんあるな、というふうに思っております。そういう観点で、私も最近、いろんな政治家の方とお話させていただく機会が 多いんですけれども、政治家の議員の方のデジタルリテラシーというのは、高いと、高まるといいんじゃないかな、というふうには思っております。ありがとうございます。尾形凛太郎君。私も全く同感であります。続きまして、 松尾先生に引き続きお伺いしたいと思うんですが、最近、2月だったと思いますが、科学誌ネイチャーを読んでおりますと、アメリカと中国のAIに対するアプローチが、結構異なっているのではないか、というような論文が、実はございました。アメリカはやっぱり、最も技術を突き詰めた、エッジの利いた技術の方に、ぐっと伸びていくんだけれども、実は中国は、インダストリアルであったりとか、マニファクチャリングとか、そして広く、途上国とかに展開していくような、そういう方に主眼を置いている、ということで、中国が目指しているのは、フロンティアAIではなくて、マスマーケットAIだと、 消費マーケットのAIなんだ、というような、感じの論考があって、この2つは、じゃあどちらが上かというと、こういうアプローチの違いがあるので、一概にどちらが上、ということではなくて、もちろん競合するところはあるんだけれども、そういう違いがあるんだ、というのを聞いて、そういうことなのかなと思ったんですが、実際に研究者として見ておられて、この辺りどう見えられますでしょうか。松尾先生。ありがとうございます。今の点は、あまり、これまで考えたことがないのと、そのネイチャーの論文も、読んでいませんので、分かりませんけれども、少し印象として感じるのは、 米国はご存知の通り、オープンAIであったり、グーグルであったり、非常に派手に、こんなことができますということですし、ホワイトカラーの生産性を大きく上げますと、仕事の仕方を変えますと、中国の方が、もっとそういった、各インダストリーに入り込んでいる、アプリケーションを重視していて、より、いろんな工夫によって、使い方を見つけ出していって、うまく取り込んでいっていると、かつての日本に、そういった意味では、ちょっと近いかもしれませんけれども、そういったアプローチで、進めているような印象があります。そういった意味では、おっしゃる通り、そういったアプローチの方が、 ### 尾形倫太郎（参考人） [02:31:55.351] より広くマーケットを取っていく可能性があるのかな、ということも少し感じます。以上です。尾形倫太郎君。ありがとうございました。引き続き、松尾先生、そして池谷先生にお伺いをさせていただきたいと思うんですが、去年、私、中国に行って、いろんなAIの企業とか、ファーウェイとかも含めて、見させていただきました。そのときにすごく感じたのが、目指す方向は一緒なんだけど、結構、制裁とか打たれたりして、私、技術のこと、全くわからないんですが、技術としては、全く違うプラットフォームが、別個に発展していっているのかな、というふうに、そういうふうに見えたんですね。 技術の細かいこと、わからないですけど。2つ問いがあるんですが、今後、すごく雑に言うと、欧米型みたいなAIの発展と、そして、チャイナのプラットフォームで発展していく、そういうAIというのが、世界に両立をしていくんじゃないか、というような思いを持っていて、先ほどのインダストリアルの話で、そうすると、例えば、途上国とかに行くと、2つあるんだけど、どっちを選びます、みたいな話になっていったりするのかな、というふうに、私は日本の出身ですので、そういうふうに見えたんですね。それをどう思われますか、というのと、あともう1つ、中国に、すごく最先端のものに対して、 ## 参考人意見陳述 [02:33:23.771] ### まず松尾（参考人） [02:33:23.771] 制裁を打つんですけど、見ていると、1年ぐらいは、すごく困っているんですね。困っているんですけど、1年から1年半ぐらいすると、むちゃくちゃ適合して、それを乗り越えていっているように見えていて、実は、意味がないというふうに、中国におもねるつもりは全くないんですけど、実はあまり聞いていないのかな、というふうに思ったりもするんですけど、そのあたり、AIの視点から見て、どうお考えになりますでしょうか。よろしくお願いいたします。では、まず松尾参考人からお願いします。ありがとうございます。非常に重要なご質問かと思います。 私も、実は先生と全く同じ印象を持っておりまして、経済安全保障で、いろんな形で、経済安全保障で、いろんな形で、トレードをしないようにすると、トレードをしないようにすると、しばらくは困っていますけれども、しばらくは困っていますけれども、かなり早いうちに、大体の技術を作ってしまうということが、かなり早いうちに、大体の技術を作ってしまうということが、例えばGPUのような、半導体のレベルでも起こりますし、それからソフトウェアのレベルでも、起こっているというふうに感じています。そうすると、結果的には、さらに、国内での経済圏であったり、そういう経済圏であったり、 サプライチェーンを、補強するようなことになっている、可能性があって、本来の意図とは、違うようなことになる可能性もあるのではないか。違うようなことになる可能性もあるのではないか。テクノロジーに限った話で、一般論として、どこまで広げるのかは、非常に微妙なところがあります。そういった印象を、私も少し持っておきます。ありがとうございます 大きく2点に分けてのお答えになるのです 2点に分けて特に制度の観点からのお答えになるのですけれども 1つはやはり中国型の技術 そして中国型の制度というふうに言ったようなものが アメリカともヨーロッパとも異なる形でやはり発展しつつある この3局を捉えて アニュ・ブラッドフォードというコロンビア大学の教授の近所が デジタルエンパイアズというふうに言うのですけれども それぞれがその帝国を広げていくための競争というものを繰り広げている それは当然やはりそれぞれの市場の食い合いというのもありながらも やはりグローバルサウスをはじめとしたような 関係諸国の巻き込み合いでもあるといったようなことがございます そうした中で我が国やはり諸外国というと これまでアメリカ米国中国を見てきたのですけれど 少なくともデジタルやAI政策の中で まだやはりグローバルサウスというものへの認識や そして焦点の当て方というものが少ないところというものがございます これやはり我が国の経済的な発展を呼び これは国安全保障の両方に関わるところでございますので 今回やはりこの法案というものが 世界の藩となるAI法制というものをつくるということ やはり非常に強く強調していらっしゃる その世界の藩というのは 決してアメリカヨーロッパ中国だけではなくて まさにグローバルサウス それはまさにアジアも含めた まさにそういった南半分を含めた この世界の藩になるために何をすることが良いのかということ そういうことをぜひ念においていただきたいなというふうに思います それからもう一つはやはり制裁を受け 例えば別の分野ですと Googleのアンドロイドが Googleの中で輸出規制で使えなくなると やはり独自のOSを開発することに本気で注力して そして10億人のユーザーがいるので やはりマーケットイン マーケットバリューのサイズも含めて つくれてしまうのですよね アメリカのIT輸出の管理というところに関して むしろアメリカのIT企業が IT産業界がそれを警戒していて 実際にやったら現実にそうなったというふうに言ったような ところも含めまして やはり制度にしてもビジネスにしても 多分少なくとも3つの帝国の中で 多様化をしていくのが 今後しばらくの傾向であるのかなというふうに思います そうしたときにやはり主権でありますとか さまざまな要素がございますけれども やはり我々として最も優れたサービスというものを おそらくその3極の中から選び そして安全安心な形で活用していける環境を どのようにつくっていくかというのが 1つ極めて重要なんだというふうに思います 先ほど来ですね 海外企業に対するイコールフッティングの観点からの 法適用ということの論点がたびたび出ておりますけれども ### 尾形（委員） [02:38:25.013] やはりこういった方のあり方を 海外企業に対して適用していくというのは それがどこの国でつくられたサービスであっても 我が国国民が自由にそして安心して使えるための 法的前提をつくるための手段である ぜひですね そうした観点からも この法律の外国事業者への適用ということも まさに彼らにとっての価値というところも含めて ぜひ積極的な推進をしていきたいなと 考えるところでございます 以上でございます 尾形委員 続きましてもう最後の質問になると思いますが 松尾先生とそして田中先生 お伺いをさせていただきたいと思います 先ほどから何度もデジタル赤字の話が出ていると思います 松尾先生の方からはV字回復なんて それはなかなか無理だよと とりあえず止めて可能性があれば もしかしたら解消していけるかもしれないぐらいの 言い方だったというふうに理解したんですが 正直本当にそういうふうになれるのかなということすら 私今結構懐疑的でありまして もしかしたら国会で言うから 少しだけエンカレージングなことを言わなきゃいけないと思って 言っておられたりするのかなと思ったりするんですが これはそうありたいと思いますが 本当にデジタル赤字の解消の方向に向かっていく可能性というのは ### では松尾（参考人） [02:39:50.368] 残されているというふうに思われますでしょうか 松尾先生そして田中先生 では松尾参考人からお願いします ありがとうございます そうですね現状を正しくやっぱり認識することが重要で まず今まで勝っていたのが負けてきたわけですから それをしっかり踏みとどまると そこからチャンスがあれば浮上していくということだと思います でそれが 本当にできるのかと デジタル赤字の解消という意味で 私直接的にはなかなか難しいんじゃないかと思っていまして というのは今インターネットのビッグテックに代わるような サービスが日本から出せるのかというとそこは難しいと ### はい次に田中（参考人） [02:40:33.771] ただし自動車をはじめとしまして さまざまな実産業があります 実産業がこのAIを活用することで さらに付加価値をもたらして それがトータルとしてプラスになると こういうことは私は十分あると思っていまして そちらをしっかり目指していくべきかというふうに思います 以上です はい次に田中参考人お願いします 尾形先生ありがとうございます 私は結論から言うと 日本は必ずデジタルの次AIで復活できるというふうに信じています おっしゃるように現実を見なければならないということもありまして 6.5兆円の貿易赤字があるということもありますし あと何でしょう この30年のブランクの中で ITは非常に厳しいと なのでITで今さら復活することはできないだろうというふうに私は思っていますが AIとものづくり これの融合によって再び成長できるんだろうというふうに思っております 足元で言いますと我々桜インターネット自身が 売上が300億ぐらいの会社ですから 6兆円を解消することは短期的には不可能です しかしながら直近で言いますと GPUの投資で1000億の投資をすることになりましたが これは国の支援のおかげでもあります ただ最初は誰もGPUを投資しなかった 当社以外投資しなかったのに 我々が投資するという発表をしてから ソフトバンクさんKDDIさんはじめ トータルで3000億以上の投資がなされることになりました そういう意味で言うと私手前味噌ですけれども スタートアップの企業家ベンチャーの企業家が何かチャレンジをして 日本にはお金がたくさんありますから ナショナルカンパニーがじゃあやるかというふうに 一気に稼いでいくというふうに思っております そういうふうに思っております そういうふうに思っております 新しい課税に投資をしてくれば これはおそらく6兆10兆というのが 既存の人たちが動かないと新しいチャレンジャーだけでは無理だと なので新しいチャレンジャーも国を変えるし そしてそれに触発された次のチャレンジャーも変わっていくと 最後に申し上げたいのは我々はグッドアンセスターになれるかと 良き祖先になれるかということかと思います 丸の内戦で今日来たわけですけれども 丸の内戦というのは戦後200億円で 建設をしたそうです 車両200両付きです これは何を意味しているかというと それから60数年たって国民に資産として残されていると 要は早くに投資したものというのは 国が発展していけばそれが発展の礎になります ちなみに甲子園球場は300万円で作ったそうです 今計算基盤データセンターにしても あとこれからは資産はソフトウェアにもなっていくと思います ソフトウェア例えばマイクロソフトさんというのは 長年ウィンドウズを作り続けて ソフトウェアの資産というのは膨大なものになっています 少なくともアメリカは戦略的にソフトウェアを保護し 30年でとてつもない価値のソフトウェアを資産として組み上げ それから来る副次的な利益によって国は潤っています そういった意味でいうと 後世50年後100年後200年後のために やはりデジタルとAIが2025年に発達し始めて その時に積極的に国も民間企業も ## 質疑 [02:44:09.497] ### これにて（参考人） [02:44:09.497] そして国民も利活用した結果として 50年後100年後の子孫たちがそれを利活用し 国民を豊かにするとそういう国になるように 50年前100年前の方に学ぶべきかなというふうに思っております 以上でございます 小片林太郎終わります これにて参考人に対する質疑は終了いたしました この際一言お礼を申し上げます 各参考人の皆様におかれましては 各委員の質問に対して丁寧に的確に 御答弁いただきましてありがとうございました 先生方の御意見はしっかりと法案審議に生かしてまいります 皆様には御活躍されますことをお祈りを申し上げまして お礼とさせていただきます ### これにて（参考人） [02:44:53.385] ありがとうございました 午後1時から委員会を再開することとし この際休憩いたします