incidente de Google (GOOGLE está en problemas)

Los partidarios de Gebru dijeron que la política de Google fue "implementada de manera desigual y discriminatoria".

Recientemente, ocurrió un gran evento en el círculo tecnológico Timnit Gebru, uno de los más conocidos estudiosos de la IA e investigador de ética de la inteligencia artificial, fue repentinamente despedido de Google, lo que provocó un gran revuelo.

Timnit Gebru se graduó en la Universidad de Stanford y estudió con Li Feifei. Es una de las pocas mujeres negras líderes en la industria de la IA. En el campo de la ética de la IA, Gebru no es solo una investigadora básica. pero también un ejemplo de mentor para muchos jóvenes académicos.

Su investigación más conocida, realizada en 2018, encontró que el software de reconocimiento facial tenía una tasa de error de hasta el 35 % para las mujeres negras, pero casi el 100 % de precisión para los hombres blancos.

Sin embargo, Gebru afirmó haber sido desestimado unilateralmente por Google porque un artículo no cumplía con la revisión interna de Google. Controversia provocada por un artículo

Hace aproximadamente una semana, Gebru anunció que había sido despedido de Google después de coescribir un artículo de investigación que criticaba el sistema de inteligencia artificial de Google.

Sin embargo, Google declaró que aceptaría la solicitud de renuncia personal de Gebru porque la revisión en papel no cumplía con los requisitos de Google.

Según informes de medios extranjeros, el artículo se titula "Sobre los peligros de los loros estocásticos: ¿pueden los modelos lingüísticos ser demasiado grandes?" (Los peligros de los loros estocásticos: ¿pueden los modelos lingüísticos ser demasiado grandes?) y fue publicado por Google ***, en coautoría de un equipo interno e investigadores externos, argumentó que las empresas de tecnología deberían hacer más para garantizar que la escritura y el reconocimiento de voz con IA no exacerben la discriminación.

Vale la pena señalar que el artículo habla sobre el impacto negativo de Google BERT (sistema de procesamiento de lenguaje natural) en la ética de la IA.

Al principio, la disputa entre las dos partes fue el proceso de revisión. Según el proceso de publicación de artículos de Google, se suponía que Gebru debía enviar su artículo con dos semanas de anticipación, no el día antes de la fecha límite.

Pero el equipo de Gebru cuestionó esa evaluación, diciendo que la política de revisión fue diseñada para ser flexible y que la mayoría no seguía la estructura actualmente establecida por el jefe de IA de Google, Jeff Dean. Los datos recopilados por el equipo mostraron que la gran mayoría de las aprobaciones se produjeron antes de la fecha límite y el 41 % se produjo después de la fecha límite. Escribieron: "No existe ningún requisito estricto de que el artículo deba aprobar esta revisión en un plazo de dos semanas".

Al mismo tiempo, Dean determinó que el artículo no cumplía con los estándares porque "ignoró demasiado". investigación relevante" y por lo tanto exigió que se retractara del artículo o eliminara la firma del empleado de Google.

Según el Times, Gebru solicitó más conversaciones con Google antes de retractarse del artículo. Gebru dijo que si Google no aborda sus preocupaciones, dimitirá de la empresa.

Google le dijo entonces a Gebru que la empresa no podía cumplir con sus condiciones y que aceptaría su dimisión inmediatamente.

Dean también dijo que estaba decepcionado de que Gebru incitara a sus colegas a no participar en los proyectos DEI (diversidad, equidad e inclusión) de Google.

Pronto, Gebru descubrió que ya no podía iniciar sesión en la cuenta de su empresa, lo que significaba que la habían despedido. Agitación posterior a la salida

Después de dejar el cargo, más de 1.400 empleados de Google y más de 1.800 otros expertos de la industria firmaron una carta abierta para apoyar a Gebru.

"En lugar de ser aclamado por Google como un talento brillante y un colaborador prolífico, el Dr. Gebru se ha enfrentado a actitudes defensivas, racismo, revisión de investigaciones y, ahora, despidos en represalia", se lee en la carta.

Ex colegas e investigadores externos de la industria que defendieron a Gebru cuestionaron si Google aplicó arbitrariamente las reglas de manera más estricta en este caso.

Ex empleados de Google dijeron tuiteando "Apoyo a @timnitGebru"

Este incidente también exacerbó las tensiones entre la dirección de Google y algunos empleados comunes.

Gebru publicó su tweet de renuncia el mismo día, Google fue acusado de represalias por la Junta Nacional de Relaciones Laborales, que dijo en. una denuncia de que Google violó las leyes laborales de Estados Unidos al monitorear, interrogar y despedir a empleados activistas.

Su salida también provocó resentimiento entre aquellos que ya estaban preocupados por el trabajo de Google sobre la ética de la IA, que fue criticado por miembros del grupo. el año pasado antes de su disolución