RSS DEV コミュニティ
フォロー
私は16歳で、完全にローカルなAIアシスタントを構築しました。クラウドなし、APIキーなし、GPUで動作します。
インド、プネ出身の16歳、Shriisootさんが、完全にローカルで動作するAIデスクトップアシスタント「O-AI」を開発しました。クラウドベースのアシスタントがプライバシーを侵害することに不満を感じ、アイアンマンのJARVISのように、個人的でプライベートな対話を優先するO-AIを作成しました。O-AIは、llama.cppまたはOllamaを使用して大規模言語モデルをローカルで実行するため、インターネット接続や外部APIキーは不要です。会話の事実を記憶する自己学習コアと、パーソナライズされたモデルトレーニングのためのファインチューニングパイプラインを備えています。アシスタントは、ローカルのWhisper実装を通じて英語、ヒンディー語、マラーティー語での音声制御をサポートし、ユーザーの話した言語で応答します。O-AIは、JARVIS風インターフェース、PC自動化、アニメーションデスクトップペットなど、さまざまなモードを提供します。アプリケーションの起動、ウェブ検索、メディアコントロールなどのタスクに対して30以上の自動化機能を提供します。マルチステップエージェントシステムにより、さまざまなステップタイプでサポートされる複雑な計画、実行、およびアクションの検証が可能になります。テクノロジースタックには、バックエンドにFlaskを使用したPython、フロントエンドにバニラJavaScriptを使用したElectronが含まれます。主な課題には、エージェントタスクの成果検証の実装と、エラーを防ぐための堅牢なコンテンツ検証が含まれていました。
