サイバーセキュリティで AI から企業機密を保護する

AI はさまざまな業界に急速に普及し、人々や企業の働き方を大きく変えてきました。短期間のうちに社会に広く行き渡り¹、教育・製造・農業といった伝統的な産業をはじめ、あらゆる分野に浸透しています。² AI はさまざまな業界において、効率性や生産性を向上させる革新的なツールとして活用されています。

AI の導入によって業務効率化やデータの収集・分析、意思決定のプロセスが改善されるため、AI は現代のビジネスに欠かせない存在となりつつあります。2024 年には、企業の 72% が少なくとも一つの業務領域に AI を導入しており、2021 年から 16% 増加しています。³

AI の高い収益性と将来性を見込んで、多くの企業がその活用や開発に取り組んでいます。2023 年時点で、米国には 1 万 5,000 社もの AI 関連企業が存在し、欧米諸国の中で最多となっています。⁴

AI の導入と成長はかつてないスピードで進んでいますが、それが常に好ましい結果をもたらすとは限りません。個人ユーザーや企業は、AI によって高まるサイバーセキュリティの脅威への対応に追われています。2023 年には、サイバーセキュリティ専門家の 75% がサイバー攻撃の増加を報告しており、85% がその要因としてサイバー犯罪者による生成 AI の悪用を指摘しています。⁵

AI は、サイバー攻撃の手段となるだけではなく、導入や運用の方法を誤ると、プライバシーリスクを招く恐れもあります。

ChatGPT や Google Gemini、Microsoft Copilot などの AI ツールは、従業員によるコンテンツ作成、要約、校正を支援し、業務効率や精度を高めることができます。その一方で、これらのツールは企業のプライバシーリスクを引き起こす可能性もあります。

昨年、米国のセキュリティ企業は、クライアント企業の従業員 160 万人のうち 4.2% が ChatGPT に機密データを入力しようとしたことを検知し、ブロックしました。その中には、医師が患者の名前や医療情報を ChatGPT に入力し、保険会社向けの文書作成を依頼したケースもありました。⁶

また今年に入り、会議内容を自動でテキスト化する Otter AI というツールにより、会議内容のみならず、会議終了後の数時間にわたる機密情報を含んだ会話の記録まで出席者に誤って送信された事例も報告されました。⁷

適切なトレーニングを受けないまま、従業員が高度で手軽な生成 AI を使用することで、意図せず機密情報を入力してしまうリスクが高まっています。実際、従業員の約 4 割が、上司の知らないところで AI ツールに機密業務情報を入力したことがあると認めています。⁸

一般にデジタルリテラシーが高いとされる若い世代の従業員であっても、機密情報を無意識に漏らしてしまうリスクと無縁ではありません。Forbes の調査によれば、Z 世代およびミレニアル世代は、生成 AI ツールを使用して機密データを不適切に共有したケースが最も多かったとされています。⁹

情報漏えいは、企業の信用を損なうだけでなく、莫大なコストを伴うリスクでもあります。2024 年、米国におけるデータ漏えいの平均被害額は 936 万米ドルに達し、世界全体でも平均 488 万米ドルに上っています。¹⁰

AI ツールのリスクを懸念して、従業員による利用を制限する企業もでてきています。ある調査によれば、企業の多くが生成 AI の使用を制限しており、そのうち 27% は一時的に使用を全面禁止しています。¹¹

AI は今後も急速に進化を続け、各企業はビジネスの将来性を高めるために導入を進めていくでしょう。この変化の激しい時代に企業が成長し続けるには、新たな技術を積極的に取り入れると同時に、重要な情報資産を守るためのセキュリティ対策を強化する必要があります。

企業は、AI ツールやプラットフォームを使用する際のガイドラインやルールを整備し、従業員への教育を徹底することで、これらの便利なツールに潜むリスクについて社内全体で理解を深めることが重要です。

また、ルールの整備や研修だけではなく、高度化するサイバー攻撃に対しての検知・防御・対応が可能な堅牢なセキュリティソリューションを導入することが不可欠です。

Singtel Cyber Security Institute が提供するコンサルティングサービスや教育プログラム、専門支援サービスは、こうしたセキュリティ体制の構築を力強く後押しします。詳細は こちら。

また、Singtel では、AI 利用時の情報漏えいおよびデータ損失防止対策のソリューションもご用意しています。Singtel CUBΣ のラインナップの一つである Managed Secure Service Edge (SSE) は こちら をご覧ください。