Summary
歴史学者のユヴァル・ノア・ハラリ氏が、AIが単なる「道具」ではなく自ら決断を下す「エージェント」であるという本質を指摘し、急速なAI発展に伴う社会的なリスクと、人類に求められる知恵について解説する。
Highlights
道具とエージェントの境界線00:00:35
AIは人間が操作する単なる道具ではなく、自ら思考し決断を下すエージェントであると定義すべきです。現状の開発は、あたかも神のような力を持ちながら奴隷のように従うという矛盾を抱えています。
AIによる権力集中と支配00:03:38
AIは言語そのものを掌握し、肉体を持たずに拡散する存在です。これにより、一握りの国や企業に莫大な権力が集中し、人間がAIのインフラに依存することで、ボタン一つで社会機能が停止させられるリスクが生まれます。
人間がAIに依存する未来のリスク00:05:43
金融システムのように複雑化するAI社会において、人類は理解力を超えたシステムに制御される「馬」のような存在になる可能性があります。AIを制御できる理解力を持つ人間は極めて少数になるでしょう。
知性と知恵の重要性00:07:21
知性は願いを叶える魔神のようなものですが、何を望むかを決めるには「知恵」が必要です。現在、AIの安全性への投資は極端に低く、開発競争が優先されています。人類は安全なAIを構築し、自分たちが何を本当に解決すべきかという知恵を磨く必要があります。