Tech

OpenAIが支援するAIと道徳の研究最前線


「英語でニュースを読むのは難しいと感じていませんか?まずは楽しむことから始めましょう。」

この記事では、テック業界の最新のニュースを初心者でもわかる英語表現を使って紹介しています。読むだけで英単語力、表現力が身につき、英文の読解力向上に繋がります。


今日のニューストピック:OpenAIがAIの道徳理解に関する研究を支援

  • 全体の内容
    • OpenAIが、AIが人間の道徳性を理解する方法を研究するため、研究者に資金提供。
    • Duke大学のチームがプロジェクトに参加し、AIが人間の意思決定を支援する方法を探る。
    • 2021年に開発された「Ask Delphi」は道徳アドバイスを試みたが、誤った回答や偏見が問題に。
    • 道徳は文化や人々によって異なるため、普遍的な答えが存在しない。
    • AIはオンライン情報からパターンを学ぶだけで、深い理解がないため偏見を反映する可能性がある。

      *記事全体を把握したら、段落分けにした文章で英文を読んでいきましょう!*

OpenAIが挑む:AIに人間の道徳を学ばせる研究支援
OpenAI's Challenge: Supporting Research to Teach AI Human Morality 

*English
OpenAI is giving money to researchers to study how to make AI understand human morality.
They want to create computer programs that can predict what people think is right or wrong in difficult situations, like in medicine,
law, or business.

*日本語
OpenAIは、AIが人間の道徳性を理解する方法を研究するために研究者たちに資金を提供しています。彼らは、医療、法律、ビジネスのような難しい状況で、人々が何を正しい、何を間違っていると考えるのかを予測できるプログラムを作ろうとしています。

  *  Important Words (重要な単語)

     Morality - 道徳性

     Researchers - 研究者

     Predict - 予測する

     *Important Phrases(重要な表現)

     Make AI understand human morality - AIが人間の道徳性を理解する

     Predict what people think is right or wrong - 人々が正しい、間違っていると考えることを予測する

Duke大学の研究:AIで道徳的意思決定を支援
Research at Duke University: Supporting Moral Decision-Making with AI

* English
A team at Duke University is working on this project, but they have not shared much about it yet.
The researchers have written studies and a book about how AI could help humans make better moral decisions.
They have even tested AI systems that help decide who should get a kidney donation.
 *日本語
Duke大学のチームがこのプロジェクトを進めていますが、詳細はまだほとんど公開されていません。この 究者たちは、AIが人間のより良い道徳的判断を助ける方法について研究論文や本を書いています。また、臓移植を誰に提供すべきかを決定するのを支援するAIシステムをテストしたこともあります。

   * Important Words (重要な単語)

    Project - プロジェクト

    Studies - 研究

    Kidney donation - 腎臓移植

    *Important Phrases (重要な表現)

    Help humans make better moral decisions - 人間がより良い道徳的判断をするのを助ける

    AI systems that help decide who should get a kidney donation- 腎臓移植の対象者を決めるのを支援するAIシステム

AIの課題:Ask Delphiが示した道徳アドバイスの限界
Challenges of AI: The Limitations of Ask Delphi's Moral Advice"

* English
 For example, a tool called Ask Delphi, made in 2021, was supposed to give moral advice.
It could say that cheating on a test is wrong, but it gave bad answers when questions were worded differently.
It even approved harmful ideas because AI does not have feelings or deep understanding.

* 日本語
例えば、2021年に作られた「Ask Delphi」というツールは道徳的な助言を与えることを目的としていました。このツールは試験でカンニングをすることは悪いと判断できましたが、質問の言い回しを少し変えるだけで不適切な答えを出してしまうことがありました。
これは、AIには感情や深い理解がないためです。


*Important Words (重要な単語)

    Subjective - 主観的

    Cultures - 文化

    Philosophers - 哲学者

   * Important Phrases (重要な表現)

    Different cultures have different ideas about what is right or wrong - 文化ごとに正しい・間違っているという考え方が異なる

    Philosophers have debated this for thousands of years - 哲学者たちは何千年もこのテーマについて議論してきた

道徳の多様性:AIが直面する文化と価値観の壁
The Diversity of Morality: Cultural and Ethical Challenges for AI

*English
Another challenge is that morality is subjective—different people and cultures have different ideas about what is right or wrong.
Philosophers have debated this for thousands of years, and there is no single answer.
 * 日本語
もう一つの課題は、道徳が主観的であるということです。人々や文化によって、何が正しい、何が間違ってるのか、という考え方が異なります。哲学者たちは何千年もこのテーマについて議論してきましたが、普遍的答えはまだ見つかっていません。

  * Important Words (重要な単語)

   Moral advice - 道徳的助言

   Deep understanding - 深い理解

   *Important Phrases (重要な表現)

   Give moral advice  - 道徳的助言を与える

   AI does not have feelings or deep understanding - AIには感情や深い理解がない

AIに道徳を教える難題:OpenAI研究者の挑戦
The Challenge of Teaching AI Morality: OpenAI Researchers' Efforts

 *English
The researchers working with OpenAI need to consider all of this, which makes the project very difficult.
It is not clear if AI can ever truly understand morality.

 *日本語
OpenAIと協力している研究者たちは、これらすべての要素を考慮する必要があります。そのため、このプロジェクトは非常に困難です。AIが本当に道徳を理解できる日が来るのかどうかは、まだ分かりません。

   *Important Words (重要な単語)

   Researchers - 研究者

   Project - プロジェクト

   Understand - 理解する

   *Important Phrases (重要な表現)

   Consider all of this - これらすべてを考慮する

   It is not clear if AI can ever truly understand morality-AIが本当に道徳を理解できるかどうかは分からない

AIの道徳理解の壁:偏見と多様性の課題
The Limits of AI's Moral Understanding: Challenges of Bias and Diversity

*English
However, teaching AI about morality is very hard. AI does not really "understand" morality. It only learns patterns from information it gets online. This means AI may reflect the opinions and biases of certain groups, like people from Western countries, and miss other viewpoints.

 *日本語
しかし、AIに道徳を教えることは非常に難しいです。AIは道徳を「理解」しているわけではなく、オンラ ンで得た情報からパターンを学んでいるだけです。そのため、AIは西洋諸国の人々のような特定のグループの意見や偏見を反映してしまう可能性があり、他の視点を見落とすことがあります。

*Important Words (重要な単語)

  Teach - 教える

  Patterns - パターン

  Biases - 偏見

 *Important Phrases (重要な表現)

  Teaching AI about morality is very hard - AIに道徳を教えるのは非常に難しい

   Reflect the opinions and biases of certain groups - 特定のグループの意見や偏見を反映する

-Tech