$Meta Platforms (META.US)$ has announced a significant policy shift regarding manipulated media on its platforms. The company will now be introducing labels for AI-generated content on Facebook, Instagram, and Threads.
What Happened: Meta's new policy, announced on Friday, is a response to feedback from the company's Oversight Board. The board recommended that Meta broaden its approach to manipulated media and provide context through labels.
The Mark Zuckerberg-led company has added photos and audio to its scope of coverage for this policy – only videos were considered before. However, it said it won't automatically remove AI-generated or manipulated content if it is not labeled – it will instead add the labels itself.
Meta's existing manipulated media policy, written in 2020, only covered videos altered by AI to make a person appear to say something they didn't say.
The Oversight Board also advised against removing manipulated media that does not violate Meta's Community Standards, suggesting a "less restrictive" approach through labeling with context.
Meta has been working with industry partners on common technical standards for identifying AI content, and will introduce "Made with AI" labels on AI-generated video, audio, and images.
The company plans to start labeling AI-generated content in May 2024 and will stop removing content solely based on its manipulated video policy in July.
Meta says it will continue to keep this AI-generated content on its platforms and add informational labels and context unless it violates its policies.
Why It Matters: The decision to label AI-generated content comes at a time when the potential for AI to spread misinformation is a growing concern. The move is also in line with Meta's earlier efforts to introduce labels for AI-generated images across its platforms in response to the 2024 election year.
The announcement also follows a series of events that have highlighted the potential for AI to exacerbate election misinformation, such as an AI-generated robocall featuring President Joe Biden that urged New Hampshire voters not to participate in the state's primary election.
$メタ・プラットフォームズ (META.US)$人工知能によるコンテンツについて、Facebook、Instagram、並びにThreads上でラベルを導入する方針を、$Meta Platforms(META.US)$が発表しました。
出来事:$Meta Platforms(META.US)$は金曜日に発表された新しい方針は、同社の監督委員会からのフィードバックに対応したものです。同委員会は、$Meta$が操作されたメディアに対するアプローチを拡大し、ラベルを通じた文脈を提供することを推奨しました。
マーク・ザッカーバーグ率いる同社は、この方針の対象に写真や音声を加えました。ただし、ラベルが付けられない場合、人工知能によるあるいは操作されたコンテンツを自動的に削除するわけではありませんが、代わりに同社がラベルを付けることになります。
$Meta$による既存の操作されたメディアの方針は、2020年に作成され、人工知能によって人物が言わなかったことを言っているように見せる動画のみをカバーしていました。
監督委員会は、$Meta$のコミュニティ基準に違反しない操作されたメディアを削除することに反対し、文脈を付けたラベルによる「より制限の少ない」アプローチを提案しました。
$Meta$は業種パートナーとともに、人工知能コンテンツを識別するための共通技術標準に取り組んでおり、「Made with AI」のラベルを人工知能によって生成されたビデオ、音声、および画像に導入します。
同社は、2024年5月から人工知能によって生成されたコンテンツにラベルを付け始め、単に操作された動画方針に基づくコンテンツの削除を7月に停止する予定です。
$Meta$は、政策に違反する限り、これらの人工知能コンテンツをプラットフォーム上に残し、情報ラベルと文脈を追加すると主張しています。
なぜ重要か:$Meta$による人工知能によるコンテンツにラベルを付ける決定は、人工知能が誤情報を広げる可能性が高まっている現代において、重要な意義を持っています。また、2024年の選挙年に備えて、$Meta$は各プラットフォームで人工知能による画像にラベルを付ける取り組みを実施することを既に発表しています。
この発表は、人工知能が選挙の誤情報を助長する可能性があることを明らかにした一連の出来事に続いて行われました。その中に、ジョー・バイデン大統領が登場する人工知能によるロボットコールがあり、ニューハンプシャー州の予備選に参加しないよう呼びかけるものでした。
