Anthropicは、AIモデルがコンピュータを制御する能力を限定的に与える

Anthropicは、Claude 3.5 Sonnetモデルをアップグレードし、ユーザーのコンピューターを制御し、インターネットにアクセスできるようにした。これにより、Claudeは、パーソナルウェブサイトの作成や旅行の計画などのタスクを実行できるようになった。この新機能は、開発者向けにAPIとしてパブリックベータとしてロールアウトされ、会社はパフォーマンスと有用性に関するフィードバックを求めている。ただし、この増加したパワーは、潜在的なリスクについての懸念を引き起こし、Anthropicは、AIが機密データやウェブサイトにアクセスしないようにし、現実世界での影響を伴う決定については人間が確認することをアドバイスしている。AIモデルがより自律的になると、便利さをもたらすと同時に潜在的な害ももたらす可能性がある。他のAI会社も近い将来に同様のステップを踏むと予想される。