#世界のドキュメンタリー #生成AIの正体 生成AIのクラウドデータがどのように作られているかが分かった 貧困移民らが低賃金労働で手作業入力しているのだ。データの質は決して良いとはいえない そして統計的に処理され平均化された生成AIの回答を我々は使う 人の発想は自ずと貧困になる 未来が恐ろしい

「生成AIの正体 シリコンバレーが触れたがらない代償」 nhk.jp/p/wdoc/ts/88Z7… 録画チェック。ChatGPTの登場以降、急速に開発や利用が広がる #生成AI 。しかし元となる情報が不正確だと、誤情報や偽情報を生成する恐れも。生成AIの危うさを浮き彫りにする。 #BS世界のドキュメンタリー #生成AIの正体

#生成AIの正体　企業は情報の真偽を自動的に見極める手段の開発を求めている。全く逆の仕事をする二つのシステムを作れと。一方で情報を作り出し、もう一方で情報を修正させようとしている。これは大きな間違いの元、と危惧する研究者。

#生成AIの正体 AIが機械学習して生成する大量のデータは、それ自体がAIが学習するデータセットの一部になっていく。このままだと数年後には我々の世界はそうしたコンテンツに完全に汚染される。理論上機械が生成するコンテンツの量が人間が生み出すコンテンツの量を越える。ニセ情報の量産が常態化。

#生成AIの正体　「言語モデル」構築研究中の研究者。自分のデジタルクローンも可能に。試しに「なりすまし」、本物偽物区別できるか。学習中のAIその内部の論理（因果関係・処理過程）は分からないブラックボックス。Chat GPTは1兆の単語使用。やがてすべてを使いつくす。

#生成AIの正体　データセットには深く根付いたステレオタイプが表れていることがある。例えば「美しい」という言葉の多くは裸の女性の画像データが紐づけされている。「ハンサム」だとスーツ姿の男性。スクールガールとスクールボーイの検索結果も異なる。前者は性的画像多、後者は全くそうではない。

#生成AIの正体　データセットの量と質は決定的に重要。しかしその出所に注意を払うものは少ない。悪くて当たり前。基準はとても低い。キーワードと関連付けられたデータのチェック。その作業も最近人の手からコモンクロール（ネット上のデータを蓄積し無料で提供する非営利団体）の自動化システムへ。

データの分類は手作業。Chat GPTのようなAIを機能させるためには人間が必要。コンテンツ・モデレーター。ネット上の違法、自殺、児童ポルノ等「不快なコンテンツ」をチェック管理。作業は外務委託。分類したデータをAIに学習させる。分類の精度次第でAIの判断能力が向上。#生成AIの正体

#生成AIの正体　ドイル・ベルリンにあるワイゼンバウム研究所。世界初のChat bot自動応答システム製作者ジョセフ・ワイゼンバウム「AIの危険性は機械の思考が人間じみてくることよりも人間の思考が機械じみてくることにある」

NHKBSの『#世界のドキュメンタリー #生成AIの正体』を観た。#生成AI が集める多数のデータの中には偏りや不正確なものが含まれていることに注意しなくてはならない。また、多数のデータを整理し分類しているのは、殆ど #AI ではなく低賃金労働者であることに驚いた。

「AIが作り出す世界に生きることとは、平均値を追い求める凡庸な世界に生きること」 示唆に富んでいます。 #生成AIの正体 #BS世界のドキュメンタリー pic.twitter.com/P3WccAmKBq

悪魔の果実だな。 #生成AIの正体