Generated with sparks and insights from 13 sources

img10

img11

img12

img13

img14

img15

Introduction

情報漏えいリスク [1]

  • AIシステムは外部からの不正アクセスを防ぐ必要がある。

  • 学習データの性質やアルゴリズムの複雑性により、攻撃者にとって魅力的な標的となりがち。

  • データガバナンスの視点からも、機密情報の漏えいリスクに対処する必要がある。

  • データ分類、アクセス制御、暗号化などの手法を駆使したガバナンス体制が求められる。

  • 継続的な監視と脆弱性診断を実施することが重要。

img10

img11

img12

ブラックボックス化 [1]

  • AIの意思決定プロセスが理解しづらくなる問題が生じる。

  • 意思決定の説明性を高める手法の導入や、外部監査の実施が重要。

  • アルゴリズム自体が意図的に特定のバイアスを取り除くことができるか検証する必要がある。

  • Uberの自動運転車事故では、AIの判断がブラックボックス化しており、なぜ事故が発生したのかを解明するのに時間がかかった。

  • より公平で透明性の高いAIを追求する姿勢が必要。

img10

img11

img12

倫理的判断 [1]

  • AIの偏見による判断の公平性の問題は、学習データに由来することが多い。

  • アマゾンの採用AIは、過去の履歴書データに基づいて女性応募者を不利に扱う結果となり、システムの使用が中止された。

  • データ収集段階からバイアスを識別し、取り除くことが重要。

  • 判断の公平性を維持するために、開発者は多様なデータセットでモデルをトレーニングする必要がある。

  • 企業は透明性を確保するために、AIの判断基準やプロセスを公にし、定期的な監査を通じて説明責任を果たす必要がある。

img10

img11

img12

AIを扱える人材の確保 [1]

  • AIの導入には、高度な専門知識を持った人材が不可欠。

  • 世界中でAIの専門家不足が叫ばれる中、企業は人材確保の問題に直面している。

  • GoogleやFacebookなどの大企業でも、優秀なAI研究者やエンジニアの採用に苦労している。

  • 企業はAIを扱える人材を採用するだけでなく、社内での教育や研修を充実させるべき。

  • AIの基礎的な知識を広く社員に共有し、組織全体でAIを活用する文化を醸成することが重要。

トラブル時の責任所在 [1]

  • AIのトラブル時に責任の所在が不明確になるケースがある。

  • AIシステムの自律性や意思決定プロセスの複雑さから、特定の状況下で誤った判断が下された場合に、その責任が誰にあるのかが不明瞭になりがち。

  • AIが製品やサービスの推薦で誤った選択を行い、顧客に損害が生じた場合、責任はAIを開発したエンジニアにあるのか、あるいは企業全体にあるのかが問題になる。

  • 責任の所在を明確にするためには、まずAI導入時の規約や使用条件を慎重に設定する必要がある。

  • AIの判断プロセスやその背後にあるデータを適切に記録・監査することも重要。

img10

img11

生成AIの特有の課題 [2]

  • 入力した文章がモデルの再学習に利用される可能性がある。

  • 社内規定など、固有の情報を回答できない。

  • 生成AIを業務にどう活用すればよいか分からない。

  • 生成AIのリテラシーやスキルの不足が課題。

  • 自社が活用する具体的なメリット、効果が分からない。

img10

img11

Related Videos

<br><br>

<div class="-md-ext-youtube-widget"> { "title": "\u4f01\u696d\u3067\u306e\u751f\u6210AI\u6d3b\u7528\u306b\u304a\u3051\u308b3\u3064\u306e\u8ab2\u984c\u3068\u30aa\u30e9\u30af\u30eb\u306e\u30a2\u30d7\u30ed\u30fc\u30c1", "link": "https://www.youtube.com/watch?v=0SQQJBvVZpM", "channel": { "name": ""}, "published_date": "Mar 7, 2024", "length": "" }</div>

<div class="-md-ext-youtube-widget"> { "title": "\u30b9\u30c8\u30ec\u30fc\u30b8\u30e1\u30fc\u30ab\u30fc\u304c\u8a9e\u308b\u300c\u88fd\u9020\u696d\u3067\u306eAI\u6d3b\u7528\u4e8b\u4f8b\u3068\u30c7\u30fc\u30bf\u7ba1\u7406\u57fa\u76e4 ...", "link": "https://www.youtube.com/watch?v=vcnrR7myUvk", "channel": { "name": ""}, "published_date": "May 9, 2022", "length": "" }</div>

<div class="-md-ext-youtube-widget"> { "title": "\u3010\u5206\u5272\u72484/6\u3011\u4e8b\u4f8b\u767a\u8868\uff12 \u300c\u4f01\u696d\u3068\u9023\u643a\u3057\u305f\u300eAI\u6d3b\u7528\u4eba\u6750\u30d7\u30ed\u30b0\u30e9\u30e0 ...", "link": "https://www.youtube.com/watch?v=XCmnhXq4hkw", "channel": { "name": ""}, "published_date": "Nov 15, 2023", "length": "" }</div>