Alphabet Inc. (NASDAQ:GOOG) (NASDAQ:GOOGL) subsidiary Google underscored the importance of empowering users with fact-check tools amid the rising use of AI, at the third edition of the Global AI Summit (GAIN) in Riyadh, Saudi Arabia.
What Happened: Google's managing director for Middle East and North Africa, Anthony Naccache, spoke about how users can fact-check what they see on the internet, instead of relying solely on big tech companies and media organizations to do this.
Naccache said Google already has one such tool that has been available for a long time – reverse image search. This allows users to upload, or pinpoint Google Search to a specific image, and perform a reverse lookup for the image on the internet.
Subscribe to the Benzinga Tech Trends newsletter to get all the latest tech developments delivered to your inbox.
However, with the advent of AI, it has been increasingly difficult to figure out if an image or text is genuine or generated or modified using AI.
While Naccache said Google is working with governments and regulatory agencies to figure it out, educating users is also an important cog in the wheel.
Why It Matters: In August 2023, Google's DeepMind team developed a new technology called SynthID, which makes it nearly impossible to remove watermarks from AI-generated images. This tool aims to help users identify AI-generated photos with high accuracy.
Moreover, a study conducted by Google DeepMind in June revealed that the most common misuse of AI is the creation of deepfakes featuring politicians and celebrities. This misuse is almost twice as common as AI-assisted cyber-attacks, highlighting the urgent need for effective fact-checking tools.
The urgency of these tools is further underscored by the ease with which AI can be used to craft convincing fake news. In September 2023, a developer showcased a "disinformation machine" using OpenAI's ChatGPT, demonstrating how cheap and easy it has become to spread propaganda on a massive scale.
In May, Meta Platforms Inc. took down numerous Facebook accounts linked to covert influence campaigns from countries like China, Iran, Russia, and Israel, further emphasizing the need for robust fact-checking mechanisms.
Check out more of Benzinga's Consumer Tech coverage by following this link.
- Dean Of Valuation Aswath Damodaran Shares 3 Ways To Beat The Bot And Safeguard Your Job From AI
Photo by Andrea De Santis on Unsplash
アルファベット（NASDAQ：GOOG）（NASDAQ：GOOGL）の子会社であるGoogleは、AIの使用が増えている中で、ユーザーが事実チェックツールを活用する重要性を強調しました。これは、サウジアラビアのリヤドで開催されたグローバルAIサミット（GAIN）の第3回目で行われました。
何が起こったのか：Googleの中東および北アフリカのマネージングディレクターであるアンソニー・ナカシュは、ユーザーがインターネットで見るものを事実チェックできる方法について述べ、ビッグテック企業やメディア機関だけに頼るのではなく、それ自体を行えるようにしました。
ナカシュは、Googleがすでに利用できる長い間提供しているそのようなツールが1つあると述べました。それは逆画像検索です。これにより、ユーザーは画像をアップロードしたり、Google検索を特定の画像にピンポイントすることで、インターネット上で画像を逆検索することができます。
最新のテックニュースを受け取るには、Benzinga Tech Trendsニュースレターに登録してください。
ただし、AIの登場により、画像やテキストが本物か、AIを使用して生成または変更されたものかを特定することがますます困難になっています。
ナカシュは、Googleが政府や規制機関と協力してこれを解決しようとしていると述べましたが、ユーザーへの教育も重要な要素です。
なぜ重要か：2023年8月、GoogleのDeepMindチームがSynthIDと呼ばれる新しい技術を開発しました。これにより、AIによって生成された画像からウォーターマークをほぼ取り除くことが不可能になりました。このツールは、ユーザーが高精度でAI生成の写真を特定できるようにすることを目的としています。
さらに、Google DeepMindが6月に行った調査では、AIの最も一般的な誤用は、政治家や有名人をフィーチャーしたディープフェイクの作成です。これは、AIを支援したサイバー攻撃の約2倍もの頻度で行われており、効果的な事実チェックツールの緊急な必要性を浮き彫りにしています。
AIが信憑性のあるフェイクニュースを作り出すために使用される簡単さにより、これらのツールの緊急性が一層強調されています。2023年9月、開発者はOpenAIのChatGPtを使用した「ディスインフォメーションマシン」を披露し、大規模なプロパガンダの拡散がどれほど安く簡単になっているかを示しました。
メタ・プラットフォームズ社は、中国、イラン、ロシア、イスラエルなどの国々からの隠れた影響力キャンペーンに関連する多数のFacebookアカウントを削除しました。これにより、堅牢なファクトチェックメカニズムの必要性が一層強調されました。
Benzingaのコンシューマーテックのカバレッジをもっとチェックするには、このリンクに従ってください。
- バリュエーションの教授であるアスワス・ダモダランは、AIからの仕事を守るための3つの方法を共有しています。
Photo by Andrea De Santis on Unsplash
