Cuando el director ejecutivo de Google, Sundar Pichai, envió un correo electrónico a sus trabajadores con las prioridades de la empresa para 2024 este mes, el desarrollo responsable de la IA encabezaba la lista. Algunos empleados ahora se preguntan si Google podrá alcanzar ese objetivo. El pequeño equipo que sirvió como su principal organismo interno de vigilancia de la ética de la IA perdió a su líder y está siendo reestructurado, según cuatro personas familiarizadas con los cambios. Un portavoz de Google dice que su trabajo continuará de forma más sólida en el futuro, pero se niega a proporcionar detalles.
El equipo de Innovación Responsable de Google, conocido como RESIN, estaba ubicado dentro de la oficina de cumplimiento e integridad, en la división de asuntos globales de la empresa. Revisó los proyectos internos para comprobar su compatibilidad con Los principios de la IA de Google que definen reglas para el desarrollo y uso de la tecnología, un papel crucial como empresa carreras para competir en IA generativa. RESIN realizó más de 500 revisiones el año pasado, incluso para el chatbot bardosegún un reporte anual sobre los principios de la IA, el trabajo que Google publicó este mes.
El papel de RESIN ha parecido incierto desde que su líder y fundadora Jen Gennai, directora de innovación responsable, dejó repentinamente ese puesto este mes, dicen las fuentes, que hablaron bajo condición de anonimato para discutir cambios de personal. El perfil de Gennai en LinkedIn la incluye como asesora de cumplimiento y ética de IA en Google a partir de este mes, lo que, según las fuentes, sugiere que pronto se irá en función de cómo se desarrollaron las salidas anteriores de la empresa.
Google dividió en dos el equipo de Gennai de unas 30 personas. Algunas permanecerán vigentes mientras que otras fueron transferidas a Confianza y Seguridad, que lucha contra el abuso de los servicios de Google y que también reside en la división de asuntos globales. Según las fuentes, nadie parece haber sido despedido. No se pudo conocer el fundamento de los cambios ni cómo se dividirán las responsabilidades. Algunas de las fuentes dicen que no se les ha dicho cómo se manejarán las revisiones de los principios de la IA en el futuro.
El portavoz de la compañía, Brian Gabriel, se niega a decir cómo se manejará en el futuro el trabajo de RESIN en la revisión de proyectos de IA, pero describe la reestructuración como una señal del compromiso de Google con el desarrollo responsable de la IA. La medida “llevó a este equipo particular de IA Responsable al centro de nuestros esfuerzos bien establecidos de confianza y seguridad, que están integrados en nuestras revisiones y planes de productos”, dice. “Nos ayudará a fortalecer y escalar nuestro trabajo de innovación responsable en toda la empresa”.
¿Tienes un consejo?
Google es conocido por reorganizar frecuentemente sus filas, pero RESIN prácticamente no ha sido tocado desde la fundación del grupo. Aunque otros equipos y cientos de personas adicionales trabajan en la supervisión de la IA en Google, RESIN fue el más destacado, con competencias que cubren todos los servicios principales de Google.
Además de la salida de su líder, Gennai, RESIN también vio partir este mes a uno de sus miembros más influyentes, Sara Tangdall, especialista principal en ética y principios de IA. Ahora es directora responsable de productos de IA en Salesforce, según su perfil de LinkedIn. Tangdall se negó a hacer comentarios y Gennai no respondió a las llamadas para hacer comentarios.
Levantamiento de la IA
Google creó su equipo de Innovación Responsable en 2018, poco después de que los expertos en inteligencia artificial y otras personas de la empresa hicieran públicamente se levantó en protesta contra un contrato del Pentágono llamado Proyecto Maven que utilizaba algoritmos de Google para analizar imágenes de vigilancia de drones. RESIN se convirtió en el administrador central de un conjunto de Principios de IA introducidos después de las protestas, que dicen que Google utilizará la IA para beneficiar a las personas, y nunca para armas o para socavar los derechos humanos. Gennai ayudó a redactar los principios.
Los equipos de todo Google podían enviar proyectos para que RESIN los revisara, lo que proporcionaba comentarios y, en ocasiones, bloqueaba ideas que se consideraban que infringían los principios de la IA. El grupo detuvo la liberación de Generadores de imágenes de IA y algoritmos de síntesis de voz que podría usarse para crear deepfakes.
Buscar orientación sobre los principios de IA no es obligatorio para la mayoría de los equipos, a diferencia de las revisiones para riesgos de privacidad, que todo proyecto debe pasar. Pero Gennai ha dicho que las revisiones tempranas de los sistemas de inteligencia artificial dan sus frutos al prevenir costosas violaciones éticas. “Si se implementa correctamente, la IA responsable mejora los productos al descubrir y trabajar para reducir el daño que pueden causar los prejuicios injustos, mejorando la transparencia y aumentando la seguridad”. dijo durante una conferencia de Google en 2022.
