El hipervisor pKVM protegido de Android ha logrado la certificación de nivel 5 de SESIP, un hito significativo para la seguridad de código abierto. Esta certificación hace que pKVM sea el primer sistema de seguridad de software para electrónica de consumo en alcanzar este nivel de alta confianza. El logro demuestra la capacidad de pKVM para respaldar de manera segura características avanzadas de Android, incluyendo el procesamiento de inteligencia artificial en dispositivo con datos personales sensibles. La evaluación rigurosa fue realizada por Dekra, un laboratorio de certificación de ciberseguridad, según el esquema de SESIP de TrustCB. Alcanzar el nivel 5 de SESIP significa que pKVM ha superado los estándares más altos de análisis de vulnerabilidades y pruebas de penetración bajo la norma ISO 15408. Esto significa resistencia a ataques sofisticados y bien financiados. El pKVM certificado sirve como elemento fundamental para la estrategia de seguridad en evolución de Android. Aborda las inconsistencias en las certificaciones de Entorno de Ejecución de Confianza (TEE) en la industria al proporcionar una base de seguridad unificada, de código abierto y verificable. Los fabricantes de dispositivos Android pronto serán obligados a utilizar tecnología de aislamiento que cumpla con este mismo estándar de seguridad para funciones críticas del dispositivo. Este esfuerzo colaborativo, que implica a las comunidades de Linux y KVM junto con los equipos de ingeniería de Google, promete una nueva era de tecnología móvil de alta confianza.

El equipo de Sec-Gemini ha anunciado el lanzamiento de Sec-Gemini v1, un modelo de inteligencia artificial experimental diseñado para avanzar en la frontera de la inteligencia artificial en ciberseguridad. El modelo tiene como objetivo ayudar a los defensores a protegerse contra las amenazas cibernéticas mediante el uso de flujos de trabajo de ciberseguridad impulsados por inteligencia artificial. Actualmente, los defensores enfrentan la tarea abrumadora de protegerse contra todas las amenazas cibernéticas, mientras que los atacantes solo necesitan encontrar y explotar una sola vulnerabilidad. Los flujos de trabajo de ciberseguridad impulsados por inteligencia artificial tienen el potencial de revertir el equilibrio a favor de los defensores, multiplicando la fuerza de los profesionales de la ciberseguridad. Sec-Gemini v1 combina capacidades avanzadas con conocimientos y herramientas de ciberseguridad en tiempo real para lograr un rendimiento superior en flujos de trabajo clave de ciberseguridad. El modelo supera a otros modelos en benchmarks clave de ciberseguridad, incluyendo el análisis de la causa raíz de incidentes, el análisis de amenazas y la comprensión del impacto de vulnerabilidades. Sec-Gemini v1 está disponible de forma gratuita para selectas organizaciones, instituciones, profesionales y ONG para fines de investigación, con el fin de fomentar la colaboración en la comunidad de ciberseguridad. El modelo se ha integrado con inteligencia de amenazas de Google, OSV y otras fuentes de datos clave, lo que le permite proporcionar respuestas comprehensivas a preguntas clave de ciberseguridad. Sec-Gemini v1 ha demostrado sus capacidades al superar a otros modelos en los benchmarks CTI-MCQ y CTI-Root Cause Mapping, con mejoras del 11% y 10,5% respectivamente. El equipo de Sec-Gemini invita a partes interesadas a colaborar en el avance de la frontera de la inteligencia artificial en ciberseguridad solicitando acceso temprano a Sec-Gemini v1 a través de un formulario proporcionado.

El equipo de seguridad de código abierto de Google, en asociación con NVIDIA y HiddenLayer, ha lanzado la primera versión estable de una biblioteca de firma de modelos como parte de la Fundación de Seguridad de Código Abierto. Esta biblioteca permite a los usuarios verificar que el modelo utilizado por una aplicación es el mismo que fue creado por los desarrolladores, utilizando firmas digitales como las de Sigstore. La evolución rápida de los modelos de lenguaje grande (LLMs) ha abierto la puerta a nuevas amenazas de seguridad, incluyendo la intoxicación de modelos y datos, inyección de prompts y evasión de prompts. El proceso de cadena de suministro de ML es vulnerable a la manipulación, ya que los modelos son una colección no inspeccionable de pesos que pueden ser alterados por atacantes. Para lograr confianza en los modelos, los usuarios necesitan verificar su integridad y procedencia, lo que se puede hacer a través de la firma criptográfica. La cadena de suministro de ML implica tres etapas: entrenamiento, ajuste fino y incorporación en una aplicación, cada una manejada por diferentes equipos o empresas, lo que crea oportunidades para la manipulación. La firma de modelos puede prevenir la manipulación verificando la integridad del modelo en cada etapa. La biblioteca de firma de modelos lanzada es un paquete de Python que admite Sigstore y métodos de firma tradicionales, y puede manejar la escala de modelos de ML. El objetivo es extender la firma de modelos para incluir conjuntos de datos y otros artefactos relacionados con ML, y construir registros de metadatos a prueba de manipulación que puedan automatizar la respuesta a incidentes. El proyecto tiene como objetivo crear un ecosistema de confianza para ML, y invita a la comunidad de código abierto a unirse y dar forma a su futuro.

El equipo de seguridad de código abierto de Google ha logrado avances significativos en la búsqueda de vulnerabilidades automatizadas utilizando fuzzing impulsado por inteligencia artificial. En el último año y medio, han estado trabajando en aprovechar modelos de lenguaje grandes (LLMs) para mejorar la cobertura de fuzzing y encontrar más vulnerabilidades automáticamente. Se han centrado en dos mejoras importantes: generar contexto más relevante en prompts para LLMs y expandir esto para simular el flujo de trabajo de un desarrollador. Esto ha llevado al descubrimiento de 26 nuevas vulnerabilidades en proyectos de código abierto en OSS-Fuzz, incluyendo una vulnerabilidad crítica en OpenSSL (CVE-2024-9143). El equipo también ha estado trabajando en automatizar el proceso manual de desarrollo de un objetivo de fuzz, incluyendo la creación de un borrador inicial del objetivo de fuzz, solucionar problemas de compilación, ejecutar el objetivo de fuzz para ver cómo se desempeña y clasificar cualquier crash. También han estado colaborando con investigadores para automatizar completamente el flujo de trabajo, haciendo que el LLM genere un parche sugerido para la vulnerabilidad.

Las vulnerabilidades de seguridad de la memoria espacial, que ocurren cuando el código accede a la memoria fuera de sus límites previstos, representan un gran riesgo de seguridad y han sido explotadas por atacantes para comprometer sistemas y datos sensibles. Según Google's Project Zero, estas vulnerabilidades representan el 40% de las explotaciones de seguridad de la memoria en el medio silvestre en la última década. Para abordar esto, Google está adoptando un enfoque integral para la seguridad de la memoria, incluyendo el uso de lenguajes seguros para la memoria en nuevo código y la aplicación de principios de diseño seguro a bases de código C++ existentes. Una estrategia clave es implementar verificaciones de límites para estructuras de datos comunes, comenzando con la protección del estándar de la biblioteca C++ (libc++). La libc++ endurecida introduce verificaciones de seguridad para detectar vulnerabilidades como accesos fuera de los límites en producción. Google ha establecido libc++ endurecida como predeterminada en sus sistemas de producción en el lado del servidor, mejorando la seguridad de la memoria espacial en sus servicios. El impacto en el rendimiento de estos cambios fue sorprendentemente bajo, con un impacto promedio del 0,30% en los servicios. Habilitar libc++ endurecida ya ha evitado exploits, reducido fallos y mejorado la corrección del código, con más de 1,000 bugs descubiertos y una reducción del 30% en los fallos de segmentación. Google se compromete a expandir las verificaciones de límites a otras bibliotecas y a migrar su código a Safe Buffers, lo que requerirá que todas las accesos sean verificados. La empresa anima a otras organizaciones que utilizan C++ a habilitar el modo endurecido de su biblioteca estándar universalmente por defecto.

Google está introduciendo dos nuevas características de protección en tiempo real para mejorar la seguridad de los usuarios mientras protege la privacidad. La detección de estafas en el teléfono de Google utiliza IA para identificar y detener las estafas antes de que puedan hacer daño, y está disponible primero en dispositivos Pixel. La función está desactivada por defecto y se puede activar para futuras llamadas, garantizando la privacidad del usuario y el control sobre los datos. Google Play Protect también ofrece detección de amenazas en vivo con alertas en tiempo real para proteger a los usuarios de malware y aplicaciones inseguras, enfocándose en el stalkerware y posiblemente expandiéndose a otras aplicaciones dañinas en el futuro. Estas características están diseñadas para proteger a los usuarios sin recopilar datos y están actualmente disponibles en dispositivos Pixel 6+, con planes para expandirse a otros dispositivos Android pronto.

Google Messages cuenta con más de mil millones de usuarios diarios y prioriza la seguridad con potentes filtros en el dispositivo y avanzadas características de seguridad que protegen a los usuarios de 2 mil millones de mensajes sospechosos al mes. La aplicación ofrece conversaciones RCS cifradas de extremo a extremo para la comunicación privada con otros usuarios de Google Messages RCS. Como parte del Mes de Conciencia sobre la Ciberseguridad, Google está introduciendo cinco nuevas protecciones para mejorar la seguridad del usuario. Estas protecciones incluyen una detección mejorada de estafas de entrega de paquetes y empleo, advertencias inteligentes sobre enlaces potencialmente peligrosos, controles para desactivar mensajes de remitentes internacionales desconocidos, Advertencias de Contenido Sensible para imágenes que puedan contener desnudez y una función de verificación de contactos para confirmar la identidad de los destinatarios de los mensajes. La función de detección mejorada de estafas utilizará modelos de aprendizaje automático en el dispositivo para clasificar estafas y se lanzará a los usuarios beta de Google Messages que tengan habilitada la protección contra spam. Las advertencias inteligentes sobre enlaces potencialmente peligrosos se expandirán a nivel global más adelante este año. La función de Advertencias de Contenido Sensible es opcional y borra imágenes que puedan contener desnudez antes de verlas, brindando a los usuarios el control sobre ver y enviar tales imágenes. Esta función se lanzará en los próximos meses para dispositivos Android 9+. La función de verificación de contactos se lanzará el próximo año para dispositivos Android 9+, permitiendo a los usuarios verificar las claves públicas de sus contactos y confirmar la identidad de los destinatarios de los mensajes.