CUPERTINO, Calif.--(BUSINESS WIRE)--Aizip, in close collaboration with Renesas, announced today the demonstration of ultra-efficient small language models (SLMs) and compact AI agents on Arm-based micro-processor units (MPUs) for a wide range of applications in edge markets. This advancement paves the way for efficient and effective human-AI interactions in home appliances, enterprise kiosks, and many other edge devices.
Large language models (LLMs) have revolutionized the AI landscape, endowing AI systems with logic and reasoning capabilities beyond simple sensing and perception. By leveraging LLMs and recent advancements in multi-modal representation, AI agents can now interact with their environments to utilize tools or perform tasks based on complex and often ambiguous human commands. However, these advanced AI systems typically require substantial effort to train and significant resources to deploy.
Considerable research has therefore been directed towards developing compact models for on-device edge applications. On-device models offer advantages that include enhanced privacy protection, resilient operation, and cost savings. While several companies have successfully reduced the size of language models for mobile phones, ensuring accurate tool calling for automation applications on low-cost edge devices remains a significant challenge for these SLMs.
Aizip's mission is to enable pervasive intelligence by building ultra-efficient, robust, and scalable AI models that can be deployed anywhere, anytime. Aizip pushes the boundaries of efficient AI, uncovering key insights such as data-centric efficiency and AI-design automation. Leveraging its expertise in developing efficient and robust edge models, Aizip has now created a series of ultra-efficient small language models (SLMs) and AI agents, named Gizmo, ranging in size from 300 million to 2 billion parameters. These models support diverse platforms, including MPUs and application processors for a broad range of applications.
Recently, Aizip teamed up with Renesas and Arm to demonstrate the most compact and efficient AI agents to date on MPUs. These remarkably small and efficient models have been deployed on Renesas RZ/G2L and RZ/G3S boards. Built on Arm Cortex-A55, the Renesas MPUs are now available for commercial use. Despite their compactness, these SLMs and SLM-based AI agents achieve robustness and accuracy comparable with cloud-based large models for domain-specific applications. Utilizing an AI design automation pipeline, these SLMs and SLM-based AI agents can be rapidly generated for new applications.
"We're witnessing a pivotal moment in efficient AI where on-device AI agents can truly make everything think," described Weier Wan, a founding member of Aizip and head of Aizip's SLM and AI-agent development. According to Weier, on the RZ/G2L with a single A55 core running at 1.2 GHz, they can achieve a response time of less than 3 seconds. "With Renesas's readily available IC, we can offer the AI SLM and agents right now. Renesas devices are known for their high quality and mature development environment, and we're excited to team up with them in offering this breakthrough solution."
Renesas, a global leader in MPUs and MCUs, has been aggressively pushing the envelope in the edge and endpoint markets. "We see AI moving rapidly in our direction, and we are ready for it," said Kaushal Vora, Sr. Director of Business Acceleration and Ecosystem of Renesas. "We are particularly excited about Aizip implementing an on-device agent on our MPU. We can envision, for example, RealityCheck HVAC could predict a potential issue with a component in a heat pump; the AI agent acts on this real-time operational information, looking up the appropriate OEM part and scheduling a service call with the technician for replacement. Aizip has been an excellent strategic partner, and we have achieved multiple milestones together," Vora further commented.
"To address the rapid growth of AIoT applications, devices require higher performance and intelligence at the edge," said Lionel Belnet, Senior Director HW Product Management, IoT Line of Business at Arm. "Arm is the platform of choice for AI solutions from cloud to edge, and running Aizip's new SLMs and AI Agents on Arm-based technologies will provide the performance and efficiency needed to scale the edge AI opportunity even further."
"Efficiency is critical for AI systems," explained Yubei Chen, co-founder of Aizip and assistant professor at UC Davis. "Natural intelligence demonstrates remarkable efficiency. From a scientific perspective, there's immense potential for AI to improve, and efficiency is the key to achieving human-level intelligence." The Aizip Intelligent Language (AIL) model series, including AI agents, is an extension of Aizip's efforts to bring efficiency and sustainability to real-world applications. "Aizip is excited to be a part of the Arm ecosystem, utilizing industry-leading design solutions to deliver new AI use cases worldwide."
The partnership between Aizip and Renesas has led to successful tinyML models in audio, vision, and time-series. Now, they are collaborating in the rapidly growing market of SLMs and agents for on-device applications. This reflects the commitment of these companies to providing low-cost, high-performance solutions that benefit society at large. For additional information, please contact info@aizip.ai.
About Aizip, Inc.
Situated in the heart of Silicon Valley, Aizip, Inc. specializes in developing superior AI models tailored for endpoint and edge device applications. Aizip stands out for its exemplary model performance, swift deployment, and remarkable return on investment. These models are versatile, catering to a spectrum of intelligent, automated, and interconnected solutions. Discover more at .
Contacts Nathan Francis, Nathan@aizip.ai
アイジップは、ルネサスとの緊密な協力により、Armベースのマイクロプロセッサユニット(MPU)上で超効率的な小型言語モデル(SLM)およびコンパクトAIエージェントのデモを発表し、エッジ市場での様々なアプリケーションに使用できるようになりました。この進歩により、家庭用電化製品、エンタープライズキオスクなどのエッジデバイスでの効率的かつ効果的な人工知能との相互作用の道が開けました。
大規模言語モデル(LLM)により、AIシステムは、簡単なセンシングや感知を超えた論理的および推論的な能力を備えて、AIの景色を変えました。LLMを活用し、マルチモーダル表現の最近の進歩を活用することで、AIエージェントは、複雑でしばしば曖昧な人間の命令に基づいて環境と相互作用し、ツールを利用したり、タスクを実行したりすることができるようになりました。しかし、これらの高度なAIシステムは、通常、大幅な訓練の努力と多大なリソースが必要です。
そのため、オンデバイスエッジアプリケーション用にコンパクトなモデルを開発することに重点が置かれています。オンデバイスモデルには、強化されたプライバシー保護、強靭な動作、およびコスト削減などの利点があります。いくつかの企業が携帯電話用の言語モデルのサイズを縮小することに成功していますが、安価なエッジデバイスでの自動化アプリケーションの正確なツール呼び出しを確保するのは、これらのSLMにとって大きな課題です。
アイジップの使命は、どこでもいつでも展開できる超効率的で堅牢かつ拡張性のあるAIモデルを構築することにより、普及したインテリジェンスを実現することです。アイジップは、データ中心の効率性やAIデザインの自動化などの重要な洞察を発見するなど、効率的なAIの限界に挑戦しています。効率的で堅牢なエッジモデルの開発に関する専門知識を活用し、アイジップは、Gizmoという名前のサイズが3,000万から20億の超効率的な小型言語モデル(SLM)およびAIエージェントのシリーズを作成しました。これらのモデルは、MPUやアプリケーションプロセッサを含む様々なプラットフォームをサポートし、幅広い用途に対応しています。
最近、アイジップは、RenesasとArmと協力して、MPU上で最もコンパクトで効率的なAIエージェントを試作しました。これらの非常に小型で効率的なモデルは、Renesas RZ / G2LおよびRZ / G3Sボードに展開されています。Renesas MPUは、Arm Cortex-A55をベースに構築されており、商用利用を開始しました。これらのSLMおよびSLmベースのAIエージェントは、ドメイン固有のアプリケーションのためのクラウドベースの大規模モデルと同等の堅牢性と精度を実現しています。AIの設計自動化パイプラインを活用することで、これらのSLMおよびSLmベースのAIエージェントは、新しいアプリケーション向けに迅速に生成できます。
「オンデバイスAIエージェントがすべてを考慮できる画期的な瞬間を目撃しています」と、アイジップ創設メンバーであるアイジップのSLmおよびAIエージェント開発の責任者であるWeier Wanは述べています。Weierによると、シングルA55コアで1.2 GHz実行されているRZ / G2Lで、3秒未満の応答時間を実現できます。 「Renesasのすぐに利用可能なICを使用すると、AI SLmとエージェントをすぐに提供できます。Renesasデバイスは、高品質で成熟した開発環境で知られており、この画期的なソリューションを提供するために彼らと協力することを楽しみにしています。」
MPUおよびMCUのグローバルリーダーであるRenesasは、エッジおよびエンドポイント市場で積極的に進展を推進しています。「私たちはAIが急速に進んでいると考えており、それに備えています」と、RenesasのビジネスアクセラレーションおよびエコシステムのシニアディレクターであるKaushal Voraは語っています。「私たちは、例えば、RealityCheck HVACがヒートポンプのコンポーネントで問題が発生する可能性があることを予測できる場合を想定しています。AIエージェントは、このリアルタイムの操作情報に対処し、適切なOEmパートを調べ、技術者に交換するためのサービスコールをスケジュールします。 Aizipは、優れた戦略的パートナーであり、一緒に多くのマイルストーンを達成しました」とVoraは付け加えました。
「AIotアプリケーションの急速な成長に対応するために、デバイスはエッジで高いパフォーマンスと知能を必要としています」と、ArmのIot Line of BusinessのシニアディレクターHW Product ManagementであるLionel Belnetは語っています。「Armは、クラウドからエッジまでのAIソリューションのプラットフォームとして選択されており、Aizipの新しいSLMおよびAIエージェントをArmベースの技術で実行することで、エッジAIの機会をさらに拡大するために必要な性能と効率が提供されます。」
「AIシステムにとって効率は重要です」と、アイジップの共同設立者であり、UC Davisの准教授でもあるYubei Chenは説明しています。「自然言語は、効率性に優れた結果を示しています。科学的な観点から、AIには大きな可能性があります。そして、効率性は人間レベルの知能を実現するための鍵です。」Aizip Intelligent Language(AIL)モデルシリーズ(AIエージェントを含む)は、効率性と持続可能性を現実世界のアプリケーションにもたらすためにAizipが取り組んでいるものの一環です。 「Aizipは、業界で先端的な設計ソリューションを活用して、世界中で新しいAIユースケースを提供することを目的としています。」
AizipとRenesasのパートナーシップは、オーディオ、ビジョン、およびタイムシリーズのtinyMLモデルを成功裏に開発しました。現在、彼らはオンデバイスアプリケーションのSLMおよびエージェントの急速に成長する市場で協力しています。これらの企業のコミットメントは、社会全体に利益をもたらす低コストで高性能なソリューションを提供することです。詳細については、info@aizip.aiまでお問い合わせください。
アイジップは、シリコンバレーの中心に位置し、エンドポイントおよびエッジデバイスアプリケーション用にカスタマイズされた優れたAIモデルの開発に特化しています。アイジップは、模範的なモデルのパフォーマンス、迅速な展開、および卓越した投資収益率により、際立っています。これらのモデルは多目的であり、スペクトラムのインテリジェント、自動化、相互接続されたソリューションに対応しています。詳細については、にてご覧ください。
Aizip, Inc.について
シリコンバレーの中心に位置するAizip Inc.は、エンドポイントおよびエッジデバイスアプリケーション用にカスタマイズされた優れたAIモデルの開発に特化しています。Aizipは、模範的なモデルのパフォーマンス、迅速な展開、卓越した投資収益率により、際立っています。これらのモデルは多目的であり、スペクトラムのインテリジェント、自動化、相互接続されたソリューションに対応しています。詳細については、にてご覧ください。
連絡先
Nathan Francis、Nathan@aizip.ai