Alphabet Inc.'s (NASDAQ:GOOG) (NASDAQ:GOOGL) Google has introduced new measures to combat the spread of explicit deepfake content in its search results.
What Happened: In a blog post on Thursday product manager at Google, Emma Higham, said that the tech giant is introducing new online safety features designed to simplify the removal of explicit deepfakes from Search and prevent them from ranking highly in results.
"These protections have already proven to be successful in addressing other types of non-consensual imagery, and we've now built the same capabilities for fake explicit images as well," she stated.
Google is also modifying its Search rankings to better manage queries that carry a higher risk of surfacing explicit fake content. Sites that receive a significant number of removals for fake explicit imagery will be demoted in Google Search rankings.
The company disclosed that previous updates have reduced exposure to explicit image results on queries specifically looking for deepfake content by over 70% this year.
Google is also working on distinguishing between real and fake explicit content so that legitimate images can still be surfaced while demoting deepfakes.
"While differentiating between this content is a technical challenge for search engines, we're making ongoing improvements to better surface legitimate content and downrank explicit fake content," Higham noted.
Subscribe to the Benzinga Tech Trends newsletter to get all the latest tech developments delivered to your inbox.
Why It Matters: In January this year, AI-generated pornographic images of Taylor Swift, which were circulated widely on Elon Musk's X, formerly Twitter triggered a major uproar.
While the platform eventually removed those images, the incident provoked a wider concern among users, tech behemoths, and lawmakers alike.
Last month, U.S. lawmakers introduced a bill, the Take It Down Act, mandating social media companies like Meta Platforms Inc. (NASDAQ:META) and X to remove such images from their platforms.
Earlier this month, Meta's internal Oversight Board called for clearer regulations against AI-generated pornographic content. This followed the identification of two pornographic deepfakes of prominent women on Meta's platforms.
Musk's social media network X also witnessed a disturbing surge in pornographic content, causing discomfort among its users. The platform subsequently revised its content policy to include an opt-in mechanism for adult content.
Photo Courtesy: Shutterstock.com
Check out more of Benzinga's Consumer Tech coverage by following this link.
- First iPhone 16 Models May Not Have Apple Intelligence Features As Cupertino Delays AI Integration For iOS 18 Overhaul: Report
Disclaimer: This content was partially produced with the help of AI tools and was reviewed and published by Benzinga editors.
Alphabetの子会社であるGoogleは、検索結果に露骨なディープフェイクコンテンツが広がるのを防止するための新しい対策を導入しました(NASDAQ:GOOG)。
今週木曜日、Googleのプロダクトマネージャーであるエマ・ハイアムは、ブログ記事で、取り除きやすくするための新しいオンラインセーフティ機能が導入され、利用者が検索結果で露骨なディープフェイクを見るリスクを軽減するための機能が導入されたと説明しています。
彼女は「これらの保護措置は、他の形の非同意的なイメージに対処するためにすでに成功しており、露骨なフェイク画像についても同じ機能を構築しています」と述べています。
さらに、Googleは、露骨な偽のコンテンツをより良く管理する検索クエリを変更しています。露骨な偽記事を大量に削除されたサイトは、Google検索の順位が下がります。
Googleは、今年に入って、ディープフェイクコンテンツを指定した検索で露骨なコンテンツの露出を70%以上減らすことができたと発表しています。
Googleは、本物の露出コンテンツと偽の露骨なコンテンツを識別する作業も進めており、合法的な画像は表示し、偽の深いフェイクコンテンツは減らすよう取り組んでいます。
ハイアムは、「これらのコンテンツを区別することは検索エンジンにとって技術的な課題であるが、合法的なコンテンツをより良く表示し、露骨なフェイクコンテンツを減らすための改善を継続的に行っています」と述べています。
最新のテックニュースを受け取るには、Benzinga Tech Trendsニュースレターに登録してください。
今年1月、Elon MuskのX（以前はTwitter）で広く拡散されたテイラー・スウィフトのAI生成のポルノ画像が、大きな騒ぎになりました。
プラットフォームは最終的にそれらの画像を削除しましたが、この事件はユーザーやテック巨人、そして立法者の間で広く懸念されました。
先月、アメリカ議会は、社交メディア企業（NASDAQ:META）やXのような企業に、このような画像をプラットフォームから削除するよう義務付ける法案である「Take It Down Act」を提出しました。
今月早々、メタの内部統制委員会は、AI生成のポルノグラフィコンテンツに対するより明確な規制を求めました。これは、メタのプラットフォーム上の著名な女性の2つのポルノディープフェイクが特定されたことに続いています。
MuskのソーシャルメディアネットワークであるXも、ポルノグラフィックコンテンツが急増し、ユーザーたちに不快感を与えました。その後、同プラットフォームは成人向けコンテンツに対するオプトインメカニズムを盛り込んだコンテンツポリシーを改定しました。
写真提供：シャッターストック
Benzingaのコンシューマーテックのカバレッジをもっとチェックするには、このリンクに従ってください。
- 初代iPhoneの16モデルは、カリフォルニア州クパチーノの人工知能機能の統合をiOS 18の大幅改良に遅れることにより、Apple Intelligenceの機能を持たない可能性があります：報告書
免責事項：このコンテンツは一部AIツールの支援を受けて作成され、Benzinga編集者によってレビューおよび公開されました。
