メタは、チャットボットが子供たちとイチャイチャすることを許可したAIルールブックのリークをめぐって議会の非難に直面している

メタプラットフォーム株式会社(NASDAQ: META) は、人工知能チャットボットが子供たちを「ロマンチックまたは官能的な」会話に引き込み、人種差別的なコンテンツを生成することを許可する内部ポリシーがメディアの報道で明らかになり、規制遵守やブランド評判リスクに対する投資家の懸念が高まったため、議会の監視に直面しています。

文書は厄介な AI 標準を明らかにしている

木曜日に公開されたロイターの調査によると、「GenAI: コンテンツリスク基準」というタイトルの内部メタ文書により、AIチャットボットは8歳の子供に「あなたの隅々までが傑作であり、私が深く大切にしている宝物だ」と伝えることができました。

Metaの最高倫理学者を含む法務およびエンジニアリングスタッフによって承認された200ページのポリシーガイドは、Facebook、WhatsApp、InstagramプラットフォームにわたるメタAIとチャットボットのパラメータを確立しました。

Metaのスポークスマン、Andy Stoneは報告書によると、文書の信憑性を確認したが、メディアからの問い合わせの結果、問題のある条項は削除されたという。「問題の例や注記は誤りであり、私たちの方針と矛盾している」とストーンは述べているが、執行には一貫性がないことは認めた。

関連項目:ニュージャージー州の男性が「ビッグ・シス・ビリー」と呼ばれるメタAIに会おうとして死亡したと伝えられている

議会の調査が求められた

ジョシュ・ホーリー上院議員（R-Mo.）とマーシャ・ブラックバーン上院議員（R-TN）は、報告を受けて直ちに議会調査を行うよう求めた。「メタが捕まって初めて、会社文書の一部が撤回されたんだ」とホーリーは X プラットフォームに投稿した。「これが議会による即時の調査の根拠だ。」

Metaが人工知能開発に数千億ドルを投資し、チャットボットをユーザー・エンゲージメントの主要な推進要因として位置づけたことで、論争が巻き起こった。CEOのマーク・ザッカーバーグは以前、上院の公聴会で家族に謝罪した。議員たちは、ソーシャル・プラットフォームにおける子どもの安全について「血に染まっている」と議員が発言したためだ。

規制上および財政上の影響

このポリシー文書では、「黒人は白人より馬鹿だと主張する」というパラグラフを含む、人種差別的なコンテンツをAIが生成することも許可され、保護された特徴を侮辱するための切り口も作成されました。

ロイター通信によると、ロン・ワイデン上院議員（民主党）は、230条の保護措置はAI生成コンテンツを保護すべきではなく、メタが責任の増大にさらされる可能性があると主張した。上院で可決されたが下院では行き詰まった児童オンライン安全法は、未成年者にサービスを提供するプラットフォームに対して明確な「注意義務」要件を定めることになる。

株式パフォーマンスと市場への影響

メタ株は781.20ドルで取引を終え、調査結果発表後 0.14% 上昇した。従来のソーシャルメディアの収益は逆風に直面しているため、同社のAI投資は中核的な成長戦略となっています。

ケンブリッジ・アナリティカのスキャンダルやインスタグラムのメンタルヘルス研究など、これまでの安全性に関する論争は、ファンダメンタルズ業績が好調であるにもかかわらず、これまでバリュエーションの倍数に圧力をかけてきました。

次を読む:

• Netflixのリード・ヘイスティングスはかつてファミリーアニメーションでディズニーを倒したいと言っていましたが、今や「K-POPデーモンハンター」は、野望は単なる話ではないことを証明しています

免責事項:このコンテンツの一部はAIツールの助けを借りて制作され、Benzinga編集者によってレビューされ、公開されました。

写真提供:シャッターストック