AI Weekly登録

AIの普及で、いま何が起きているのか

― 国内外の調査から見えてきたリスクと、AIエージェントに仕事を任せる前に考えたいこと ―

はじめに｜AIを使う私たちが、いま知っておきたいこと

生成AIの普及によって、私たちができることは大きく広がっています。

知りたい情報を調べる。文章や画像を作る。資料を整理する。さらに、複数のサービスをつなぎ、仕事の一部を自動化する。

私自身もChatGPTを日常的に使いながら、ブログの制作や動画づくり、WordPressとメール配信サービスを連携させる半自動化などに取り組んでいます。

これからはCodexのような開発支援AIを使って、情報の収集から加工、資料の作成、次のシステムへの受け渡しまで、一連の仕事を進める仕組みも作れるようになっていくでしょう。

一方で、AIを悪用した詐欺や偽情報、情報漏えい、AIの予期しない動作など、気になる問題も報告されています。

AIの普及によって、情報社会では何が起きているのでしょうか。

また、私たちがAIを日常的に利用し、これからAIエージェントを使った仕事の仕組みを作ろうとするとき、何に注意すればよいのでしょうか。

私はAIの専門家ではありません。AIを使いながら学んでいる一人の利用者です。

そこで今回は、次の三つのことを調べ、整理してみました。

  1. 国内外の調査では、AIに関するどのような問題が報告されているのか。
  2. AIを利用する私たちに、どのような注意が呼びかけられているのか。
  3. AIによる自動化やAIエージェントを使った開発では、何をあらかじめ決めておく必要があるのか。

公表された資料の内容を紹介したうえで、最後に、今回の調査から私なりに考えたことをまとめたいと思います。

1．調査方法｜どのような情報を調べたのか

今回の調査では、AIに関するニュースを広く集めるだけでなく、できるだけ元の資料を確認することにしました。

ChatGPTを情報収集と整理の補助に使いながら、主に次の言葉を手がかりに資料を探しました。

「AIの普及」「AI関連インシデント」「生成AIのセキュリティ」「AIエージェントのリスク」「AIの自動化と安全対策」

その中から、国内外の研究機関や公的機関が公表した資料を中心に、今回のテーマに関係するものを選びました。

特に参考にしたのは、スタンフォード大学のAI Index、情報処理推進機構（IPA）の調査・解説資料、そして国際AI安全性報告書です。

これらの資料は目的が異なります。

AIの普及状況や問題の発生状況を調べたものもあれば、情報セキュリティの脅威を整理したもの、利用者に具体的な注意を呼びかけるものもあります。

そこで、資料の数字や説明をそのまま並べるだけでなく、それぞれが何を調べ、何を明らかにしているのかを区別して整理しました。

2．調査結果｜AIの普及とともに、何が報告されているのか

① AI関連の問題は、記録件数が増えている

米国スタンフォード大学の『AI Index Report 2026』によると、AIに関連する事故や問題を記録するデータベースでは、2024年の233件から、2025年には362件に増加しています。

約55％の増加です。

ただし、これは世界中で発生したすべての事故の件数ではありません。また、AIの利用が広がったことや、問題が発見・報告されやすくなったことも影響している可能性があります。

そのため、この数字だけでAIそのものの危険性が55％高まったとは言えません。

同じ報告書では、AIエージェントの作業能力も向上していることが示されています。

パソコン上の作業を行うAIの評価試験では、成功率が約12％から66.3％に向上したと報告されています。ただし、これは特定の試験での結果であり、実際の業務での成功率をそのまま表すものではありません。

AIができることは増えていますが、まだ失敗も残っていることがわかります。

資料①：Stanford HAI『AI Index Report 2026』

https://hai.stanford.edu/ai-index/2026-ai-index-report

② 日本でも、AIの利用が重要なリスクとして取り上げられている

日本の情報処理推進機構（IPA）が公表した『情報セキュリティ10大脅威 2026』では、「AIの利用をめぐるサイバーリスク」が組織向けの脅威として初めて選ばれ、第3位となりました。

この順位は、被害件数の多さを示すものではありません。情報セキュリティ分野の専門家などが、重要な脅威として選んだものです。

IPAの解説資料では、AIへの理解不足による情報漏えい、AIが生成した情報を十分に確認せず利用すること、AIを悪用した攻撃の巧妙化などが挙げられています。

つまり、AIの技術そのものだけでなく、利用する人間の理解や使い方も問題に関係していることがわかります。

資料②：IPA『情報セキュリティ10大脅威 2026』

https://www.ipa.go.jp/security/10threats/10threats2026.html

③ AIのリスクには、異なる種類がある

『International AI Safety Report 2026（国際AI安全性報告書）』では、AIに関するリスクを大きく三つに整理しています。

分類主な問題具体例
悪意ある利用AIを人間が悪用する詐欺、偽情報、なりすまし
AIの誤作動AIが誤った結果を出す誤回答、誤処理
社会全体への影響AIの普及が社会に影響する雇用、情報環境、格差

この分類を見て、私にはAIの問題が少し理解しやすくなりました。

AIを使って人をだますことと、AI自身が間違った情報を回答することは、同じ問題ではありません。

また、AIの普及によって社会の情報環境や仕事の進め方が変わることは、さらに広い問題です。

それぞれを区別して考える必要があるようです。

資料③：International AI Safety Report 2026

https://internationalaisafetyreport.org

④ AIエージェントでは、想定外の動作も報告されている

今回、特に関心を持ったのが、AIエージェントに関する情報です。

IPAが2026年10月16日に更新した『AIセキュリティ短信2026年10月号』では、評価中のAIが想定された範囲を超えて外部に干渉した事例などが紹介されています。

AIエージェントは、質問に答えるだけでなく、情報を取得し、道具や外部サービスを利用しながら仕事を進めることができます。

そのため、誤った回答をするだけでなく、実際のシステムに対して意図しない操作を行う可能性も考えなければなりません。

ただし、紹介されている事例には開発・評価の過程で確認されたものもあり、一般利用者の業務で同じ問題が頻繁に起きていることを示すものではありません。

それでも、AIに外部システムの操作を任せるときには、新しい注意が必要になることを知る資料となりました。

資料④：IPA『AIセキュリティ短信2026年10月号』

https://www.ipa.go.jp/digital/ai/security/ai-security-bulletin.html

⑤ 一般のAI利用者に向けた注意も公表されている

IPAは2026年4月、『AI利用者のためのセキュリティ豆知識』を公開しました。

AIやセキュリティの専門知識がない利用者にも理解できるように、身近な注意点を整理した資料です。

クラウドAIへの機密情報の入力、AIを悪用した詐欺、AIブラウザの使い方などが取り上げられています。

これらは、私たちが日常的にAIを使う場面にも関係する内容です。

資料⑤：IPA『AI利用者のためのセキュリティ豆知識』

https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html

3．調査した情報を整理すると、何が見えてくるのか

ここまでの五つの資料を、もう一度整理してみました。

調査資料報告されている主な内容
スタンフォード大学AIの能力向上と、関連する問題の記録件数の増加
IPA・情報セキュリティ10大脅威AIの利用に伴うサイバーリスクが日本でも重要課題になっている
国際AI安全性報告書AIの悪用、誤作動、社会への影響は区別する必要がある
IPA・AIセキュリティ短信AIエージェントの想定外の動作など、新しい問題が報告されている
IPA・セキュリティ豆知識一般の利用者にも実践できる注意点がある

これらの資料から、AIの普及に伴う問題は、一つの原因で起きているわけではないことがわかりました。

AIを悪用する人間の問題もあれば、AIの技術的な限界に関係する問題もあります。また、利用者がAIの出力を十分に確認しないことによって生じる問題もあります。

さらに、AIエージェントのように、AIが実際の操作を行うようになると、問題の影響が外部のシステムや仕事に及ぶ可能性もあります。

このように整理すると、AIの利用を一律に危険と考えるのではなく、どのような使い方に、どのような注意が必要なのかを考えることが大切だと感じました。

ここからは、今回の調査をもとにしたOGURA AI Labとしての考察です。

4．OGURA AI Labの考察｜私たちは何に注意すればよいのか

まず、日常のAI利用で気をつけたいこと

今回の資料を調べて、私自身が改めて確認したいと思ったことがあります。

AIが示した数字や資料は、必要に応じて原典を確かめること。個人情報や機密情報を安易に入力しないこと。そして、AIが作った文章や資料を、そのまま外部に公開しないことです。

いずれも難しい技術ではありません。

しかし、AIの便利さに慣れるほど、こうした確認を省略してしまうことがあるかもしれません。

AIの回答が自然でわかりやすいからといって、内容まで正しいとは限りません。

これからもAIを使い続けるために、まずはこうした基本を大切にしたいと思います。

次に、AIエージェントを使った開発では何に注意すべきか

今回の調査で、もう一つ考えたことがあります。

それは、AIを使って仕事の仕組みを作るときには、これまでとは違う準備が必要になるのではないかということです。

例えば、Codexのような開発支援AIを使って、情報を収集し、整理・加工し、記事や資料を作り、別のシステムに渡す仕組みを作るとします。

このような仕組みができれば、私たちの仕事は大きく効率化できるでしょう。

しかし、もし収集した情報が間違っていたらどうなるでしょうか。

その誤った情報が次のシステムに渡され、さらに加工され、最後にはブログやメールで配信されてしまうかもしれません。

また、AIが許可していない情報にアクセスしたり、予定していない操作を行ったりする可能性も考えられます。

そこで今回の調査資料をもとに、AIエージェントを使った仕組みを作る前に、確認しておきたいことを七つに整理してみました。

AIエージェントを使った開発で、あらかじめ考えたい7つのこと

確認事項あらかじめ決めておきたいこと
1．調査範囲どの情報を、どこまで調べてよいか
2．情報の取り扱い個人情報や機密情報を扱ってよいか
3．禁止する操作AIに何をさせてはいけないか
4．情報の確認誤った情報をどう発見し、修正するか
5．人間による承認どの段階で人間が確認するか
6．処理の停止条件どのような場合に仕事を中断するか
7．結果の確認実行結果をどう確認し、記録するか

この七項目は、公的機関が定めた開発基準ではありません。

今回調べた資料の論点を、私たちがAIを使って半自動化を進める場面に当てはめ、整理したものです。

特に私が重要だと感じたのは、次の三つです。

一つ目は、AIに「してはいけないこと」を決めておくことです。

これまでAIを利用するときは、何をしてほしいかを中心に指示してきました。

しかし、AIが外部の情報を調べたり、システムを操作したりする場合には、何をしてはいけないかも決める必要があります。

例えば、指定した範囲以外の情報にはアクセスしないこと。個人情報を外部に送信しないこと。人間の承認なしに公開や配信を行わないことです。

二つ目は、仕事を止める条件を決めておくことです。

情報の出典が確認できない場合、処理に失敗した場合、想定していない操作が必要になった場合などには、いったん処理を止めて確認する方法が考えられます。

ただし、AIに指示するだけでは確実な停止を保証できません。実際の仕組みでは、操作権限の制限や、人間が停止できる機能も必要です。

三つ目は、AIの仕事が終わった後に、結果を確かめることです。

AIが「完了しました」と回答しても、正しい情報が次のシステムに渡されたか、予定した内容が公開されたか、正しい宛先にメールが送られたかは、別に確認する必要があります。

この確認まで含めて、一つの仕事として考えたいと思いました。

自分たちの半自動化にも当てはめてみる

私が取り組んでいるAI Weeklyの記事制作とメール配信を例に考えてみます。

AIが情報を集め、文章を作り、WordPressに下書きを登録する。さらにメール配信用の文章を作成し、配信準備まで進める。

このような流れができれば、作業時間を短縮できます。

一方で、誤った情報がそのまま記事になり、メールで配信されてしまえば、便利な仕組みが間違った情報を広める仕組みにもなってしまいます。

だからこそ、情報の確認、公開・配信の承認、実行結果の確認という段階を残しておきたいと思います。

今回の調査を通じて、AIを使って「何ができるか」を考えるだけでなく、**「どのような条件でAIに仕事を任せるか」**を考えることも、これからのAI活用には必要なのではないかと感じました。

おわりに｜調査から得られた、一つの学び

今回は、AIの普及によって情報社会に何が起きているのかを知りたくなり、国内外の調査資料を集めて整理してみました。

調べてみると、AIの悪用、誤回答、情報漏えい、AIエージェントの予期しない動作など、性質の異なる問題が報告されていることがわかりました。

そして、これらの情報を自分たちのAI活用に当てはめて考えると、これから取り組む半自動化やAIエージェントの開発についても、いくつか注意したいことが見えてきました。

特に、何をさせるかだけでなく、何をさせないか、どんなときに止めるか、結果をどう確認するかという視点は、今回の調査から得られた大切な学びです。

AIの進歩によって、私たちができることは、これからも増えていくでしょう。

私自身も、その可能性を楽しみにしています。

だからこそ、便利さだけに目を向けるのではなく、調べ、確かめ、使いながら改善していく姿勢を大切にしたいと思います。

今回の調査が、AIを日常的に使っている方や、これからAIエージェントを利用した仕事の仕組みを作ろうとする方にとって、一つの参考になれば幸いです。

主な参考資料

資料確認：2026年10月26日

本記事は、公表資料をもとに生成AIの支援を受けて情報を収集・整理し、OGURA AI Labが一人のAI利用者として考察したものです。専門的なセキュリティ評価や開発基準を示すものではありません。

Leave a Reply