Anthropic otorga a sus modelos de IA una capacidad limitada para controlar su computadora

Anthropic ha actualizado su modelo Sonnet Claude 3.5 para controlar la computadora de un usuario y acceder a Internet, lo que marca un paso significativo en las capacidades de los modelos de IA. Esta nueva característica permite que Claude realice tareas como crear un sitio web personal o planificar un viaje. Las nuevas capacidades se están lanzando a los desarrolladores a través de una API como beta pública, con la empresa buscando retroalimentación sobre su rendimiento y utilidad. Sin embargo, este aumento de poder plantea preocupaciones sobre posibles riesgos, y Anthropic aconseja a los usuarios limitar el acceso de la IA a datos y sitios web sensibles, y tener a un humano que confirme las decisiones con consecuencias en el mundo real. A medida que los modelos de IA se vuelven más autónomos, podrían traer comodidad pero también daño potencial. Se espera que otras empresas de IA sigan el ejemplo en un futuro cercano.