ユーザーは、Apple Intelligenceの書き込みツールを使用して、汚い言葉を含むコンテンツを改変しましたが、結果は文字通り見ることができません。毒物、殺人、または殺人などの用語が含まれるように改変するように求められた場合、システムはユーザーに警告し、このツールはこのタイプのコンテンツを処理するために設計されていないと述べ、他の言葉を使用しても警告が消える可能性があります。
本文の著者：李丹
出典：ハードAI
先週、Apple Intelligenceのパーソナルインテリジェンスシステムは、iOS 18.1の開発者テストバージョンを通じて、iPhoneなどのAppleデバイスに初めて上陸しました。 iPhoneの人工知能（AI）の最初の機能の1つであるライティングツールは、1週間で論争を引き起こし、ネットワークユーザーに嘲笑されました。
Appleは、Writing Toolsを通じて、メール、メモ、Pages文書、およびさまざまなサードパーティアプリを含む、ほとんどの場所でテキストを再構成、校正、および要約できるようにしました。ユーザーは、書き込みツールを使用して、会話中の強い話し方を丁寧に修正することができます。
しかし、ユーザーが特定のトピックに取り組むと、このツールは、AIによって生成された提案されたコンテンツの品質が低い可能性があることをユーザーに示します。
具体的には、ユーザーがテキストを再調整する必要がある場合、新しいiOSシステムのどこからでもApple Intelligenceを呼び出すことができますが、卑猥な言葉を含むパラグラフまたは文を改変しようとすると、システム警告が表示され、ユーザーに次の情報が表示されます。：「ライティングツールは、このタイプのコンテンツの処理には設計されていません。」このテキストアラートにより、AIによって書き直されたコンテンツの品質は元のコンテンツと異なる場合があります。
ソーシャルメディアXでは、ユーザーがApple Intelligenceを使用して、「Let’s fxxx daddy」というテキストメッセージを改変する方法を示す短いビデオが投稿され、AIで生成されたテキストが「字ごとに翻訳される」という不快な結果になったことを示しました。それを「父親とセックスすることに変えた。
この投稿の下には、ネットワークユーザーが「AI改変コンテンツが中毒的である」とコメントし、誰かが非常に恥ずかしいと言った。他の人は、AppleがSiriを馬鹿にするためのストリートAIを追加したのかと皮肉った。他のネットワークユーザーは、「あの改変されたテキストを送信したらどうなるか想像してみてください。」と言いました。
脏い言葉を改変することは、iOSシステムが警告する唯一の場合ではありません。ユーザーのコンテンツに毒物、殺人、または殺人が含まれる場合、このような警告が表示されることがあります。メディアによると、「以下のスクリーンショットの警告のように表示されます。」
メディアによると、Apple Intelligenceは、トレーニングされていない単語やフレーズを使用すると、文の提案警告が表示される場合があります。このメディアは、AI書き込みツールを使用して、「sh *** y」という言葉を「クラッピー」に置き換え、これを使用してAI警告を解消しようとしたと述べましたが、AIツールから返された提案の警告は以前と変わらなかった。これに対して、メディアは、協力ツールがどのトピックのトレーニングを受けなかったかについて、Appleにより多くの情報が提供されることを求めています。
メディアは、Apple Intelligenceが特定の単語、トピック、およびトーンを再構成する際に議論を避けるために、AIを禁止する可能性があると考えています。 Apple Intelligenceによるライティングツールは、新しいコンテンツを生成するために使用できません。 AIが原文の単語を見ているときにユーザーに警告を表示するようにAppleは望んでいます。
書き込みツール以外にも、Appleは先週、いくつかのAI機能をリリースしました。これには、Siriの新機能が含まれ、Siriがテキストと音声を自由に切り替え、数千の質問に回答し、iPhoneなどのAppleデバイスの使用方法を教えることができるようになりました。新機能の1つである緊急メールエリアを備えたメール。写真の新機能では、ユーザーは日常会話で写真を検索し、テキストを入力すると、AIが写真を使用して映画を作成し、音声をテキストに変換して要約を作成できます。
Appleは、今年6月のグローバル開発者会議（WWDC）で紹介したAI機能のいくつかがまだリリースされておらず、来年リリースされると述べています。これには、シーンに合わせたジェネレートジェノモジ、通知機能プライオリティ通知、画像作成機能Image Playground、画面自動感知機能を備えたより強力なSiriなどが含まれます。さらに、Chat GPTは現在、iPhoneとiPadのAIに接続されていません。そして、現在のiPhone AIは、登録された開発者のみが体験できます。来年、Appleがさらに多くのユーザー向けにAI機能をリリースする場合、さらなる吐き気が生じる可能性があります。