私は、日本語を学び始めた友人のために、ローカルAIの日本語会話パートナー「KaiwaBuddy」を開発しました。KaiwaBuddyが解決しようとしている根本的な課題は、学んだ語彙や文法を実際の会話で活用するのが難しいという点です。このアプリは、英語での意味の説明、初心者向けの文法解説、よくある間違いの訂正機能を提供します。また、自然な会話を再現するためのフォローアップの質問も提示します。 現在は、日本語能力試験N5レベルおよび『みんなの日本語』第1課の概念に焦点を当てています。「KaiwaBuddy」は、既知のパターンに対応する決定論的学習エンジンと、フォールバックAIモデルとしてのGemma 3 1Bを組み合わせたハイブリッドアプローチを採用しています。このハイブリッドシステムにより、中核となる概念について確実な指導を行うと同時に、自由度の高い対話も実現しています。 このプロジェクトは、Ollamaを介してローカルで実行可能なGemma 3 1Bモデルを採用し、プロプライエタリなクラウドAPIへの依存を回避することで、オープンイノベーションを重視している。ローカル推論は、プライバシーの確保や、AI体験をカスタマイズする際の開発者の自由度にとって極めて重要である。 オープンモデルを活用することで、開発者にとってAIシステムの仕組みがより理解しやすくなりました。KaiwaBuddyは、そのローカル推論機能をアピールするため、「Hacktoberfest Weekend Challenge」へエントリーされています。今回のプロジェクトを通じて得られた最大の学びは、信頼性の高いAIアプリケーションには、多くの場合、決定論的ロジックと、構造化されたフィードバックを提供するAIモデルが組み合わされているということです。