AI社会支配の恐れ

米国ヨセミテ国立公園

Fear of AI social domination

Geoffrey Hinton (75), a professor emeritus at the University of Toronto in Canada and known as a leading authority on AI (artificial intelligence) research, responded to a written interview with the Yomiuri Shimbun. He pointed out that ``generative AI could surpass human intelligence and dominate human society,'' sounding the alarm over the risks associated with rapid technological advances.

Mr. Hinton analyzed that the conversational AI "Chat GP Tea" has already accumulated several thousand times more knowledge than the human brain. He said there is a possibility that AI will be created by the 2020s or 2030s, surpassing human abilities in many ways. He expressed concern that ``human beings, who have no experience with it, do not know how to respond to the real threat of digital beings with higher intelligence than themselves taking over human society.''

Specific risks posed by generative AI include manipulating elections using fake news and developing combat robots that facilitate invasions of other countries.

AI regulation requires international cooperation

In a written interview with the Yomiuri Shimbun, leading AI researcher Jeffrey Hinton emphasized the need for safety screening under an international framework and for international cooperation in order to regulate generative AI. On the other hand, he also pointed out that ``AI is extremely difficult to regulate because giant IT companies and countries are competing with each other to develop it,'' and expressed the view that effective regulation will not be easy.

Mr Hinton

Hinton was particularly concerned about the impact of generation and AI on elections. "It will be much easier for authoritarian governments to manipulate voters with personally targeted disinformation," he said. With the 2024 Taiwan gubernatorial election and U.S. presidential election coming up, there are concerns about public opinion polls based on false information. Fake videos are also circulating during the conflict in Gaza, an autonomous region of Palestine.

Hinton pointed out that in order to combat disinformation, it would be good to have a law that would make it illegal to create and possess fake images and videos, just like currency. However, he expressed concern, saying, ``In the United States, one of the major political parties is (virtually) condoning the spread of disinformation in order to gain an advantage in the election campaign.''

He also mentioned military risks. He explained that the development of AI-equipped weapons will "make it easier for rich countries to invade poor countries." He warned that if a system were put into practical use in which AI automatically targets targets and kills people, wars could become uncontrollable and the damage could spread uncontrollably.

He also said that AI has potential to benefit humanity in fields such as earthquake prediction and medicine. On the other hand, he expressed concern that the gap between rich and poor will widen as people's jobs are taken away and employment decreases. Hinton's position is that AI could pose even more urgent risks to humanity than climate change.

He also pointed out that in order to minimize risks, government agencies and other organizations need to take appropriate action and put a brake on global development competition. He complained, ``Current AI safety measures are insufficient. Humanity needs to change direction.''

AI社会支配の恐れ

AI (人工知能)研究の第一人者として知られるカナダ.トロント大名誉教授のジェフリー・ヒントン氏(75)が、読売新聞の書面インタビューに応じた。「生成AIが人類の知能を上回り、人間社会を支配する可能性がある」と指摘し、技術の急速な進展に伴うリスクに警笛を鳴らした。

ヒントン氏は対話型AI「チャットGPティー」が既に人間の脳の数千倍の知識を蓄えられていると分析。2020年代か30年代までに生成、AIが多くの点で人間の能力を上回る可能性があるとした。「自分たちより知能の高いディジタル的存在が人間社会を乗っ取ると言う実際の脅威に、今まで経験のない人類はどう対処すべきかわからない」と懸念を示した。

生成AIのもたらす具体的なリスクとして、フェイクニュース(偽情報)を利用した選挙の操作、他国への侵略を容易にする戦闘ロボット開発などをあげた。

AI規制国際協力必要

AI研究の第一人者ジェフリー・ヒントン氏は読売新聞の書面インタビューで、生成AIの規制に向け、国際的な枠組みにより安全性を審査することや、国際協力が必要との考えを強調した。一方で「巨大IT企業や国家同士が開発を競っており、AIの規制は非常に難しい」とも指摘し、有効な規制の実現は容易ではないとの見方も示した。

ヒントン氏

ヒントン氏が特に懸念を示したのが生成、AIによる選挙へ影響だ。「権威主義的な政府が、個人をターゲットにした偽情報を使って有権者を操作することがはるかに容易になる」と指摘した。2024年には台湾総督選や米大統領選を控え、偽情報による世論捜査が懸念されている。パレスティナ自治区ガザでの紛争でも偽動画が飛び交う。

ヒントン氏は偽情報対策として「通貨のように、偽の画像や動画の作成・所有を違法とする法律があると良い」と指摘。一方で「米国では主要政党の1つが選挙戦を有利に戦うため、偽情報の拡散を(実質的に)容認している」と述べ、懸念を示した。

軍事面のリスクにも言及した。AIを搭載した兵器の開発により「豊かな国が貧しい国を簡単に侵略できるようになる」と説明。AIが攻撃目標を自動的に設定して殺傷するシステムが実用化されるされれば、戦争を制御できなくなり、被害が野放図に拡大する恐れがあると警告した。

また、地震予知や医療等の分野でAIが人類に恩恵をもたらし、可能性があるとした。一方、人間の仕事が奪われ、雇用の減少などを通じて、貧富の格差が拡大が起こるとの懸念も示した。ヒントンしはAIについて、気候変動よりも緊急のリスクを人類にもたらす可能性があるとの立場だ。

リスクを最小限に抑えるため、政府機関等が適切に対処し、世界的な開発競争に歯止めをかける必要があるとも指摘した。「現在のAIの安全対策は不十分。人類は方向転換が必要だ」と訴えた。

（記事は読売新聞より転載）

←人気ブログランキングに参加しています。ポチっと１票を！