Google lanza nuevos modelos de IA 'abiertos' que priorizan la seguridad y la transparencia

Google lanza nuevos modelos de IA 'abiertos' que priorizan la seguridad y la transparencia

Google ha presentado tres nuevos modelos de IA generativa "abiertos", destacando su seguridad mejorada., tamaño más pequeño y transparencia mejorada en comparación con muchos modelos existentes: una afirmación importante.

Las últimas incorporaciones a la línea de modelos generativos Gemma 2 de Google, que se presentó por primera vez en mayo, incluyen los nuevos modelos Gemma 2 2B, ShieldGemma y Gemma Alcance. Estos modelos están diseñados para diversas aplicaciones y casos de uso, enfatizando un compromiso compartido con la seguridad.

A diferencia de los modelos Gemini de Google, que tienen código fuente cerrado y están integrados en los productos de Google y utilizados por los desarrolladores, la serie Gemma se esfuerza por promover la buena voluntad entre los desarrolladores, similar a la estrategia de Meta con Llama.

Gemma 2 2B, un modelo liviano de generación de texto, está diseñado para funcionar de manera eficiente en una variedad de hardware, desde computadoras portátiles hasta dispositivos periféricos. Este modelo tiene licencia para uso exclusivo en investigaciones y aplicaciones específicas, y se puede acceder a él a través de plataformas como la biblioteca de modelos Vertex AI de Google, Kaggle y el kit de herramientas AI Studio de Google.

ShieldGemma es un conjunto de "clasificadores de seguridad" diseñados para identificar contenido dañino como incitación al odio, acoso y material sexual explícito. Utilizando Gemma 2 como base, ShieldGemma tiene la capacidad de filtrar mensajes a un modelo generativo y el contenido resultante producido por el modelo en busca de material inapropiado.

Gemma Scope, por otro lado, permite a los desarrolladores "acercar" aspectos específicos de un modelo Gemma 2, haciendo que su funcionamiento interno sea más interpretable. Según Google, Gemma Scope consta de "redes neuronales especializadas que nos ayudan a descomprimir la información densa y compleja procesada por Gemma 2, expandiéndola a una forma que sea más fácil de analizar y comprender. Al estudiar estas vistas ampliadas, los investigadores pueden obtener información valiosa sobre cómo Gemma 2 identifica patrones, procesa información y, en última instancia, hace predicciones".

El lanzamiento de los modelos Gemma 2 coincide con el reciente respaldo por parte del Departamento de Comercio de EE. UU. de modelos abiertos de IA en un informe preliminar. El informe enfatiza los beneficios de los modelos abiertos, como el aumento de la accesibilidad para empresas más pequeñas, organizaciones sin fines de lucro, investigadores y desarrolladores individuales a la IA generativa, al tiempo que reconoce la importancia de monitorear las capacidades para mitigar los riesgos potenciales.


Créditos de imagen: Google

Code Labs Academy © 2024 Todos los derechos reservados.