OpenAI detiene unos videos de Martin Luther King tras la indignación por unos deepfakes / Foto: Mandel Ngan - AFP/Archivos
OpenAI detiene unos videos de Martin Luther King tras la indignación por unos deepfakes
OpenAI suspendió la creación de videos del ícono de los derechos civiles estadounidense Martin Luther King Jr. a través de su herramienta de inteligencia artificial Sora 2, después de que su familia se quejara de representaciones irrespetuosas.
Los herederos del líder de derechos civiles asesinado y OpenAI anunciaron en un comunicado conjunto el jueves por la noche que la empresa pausaría las generaciones que representan a King mientras "fortalece las medidas de seguridad para figuras históricas".
La decisión se produce cuando las familias de celebridades y líderes fallecidos han expresado indignación por la herramienta de video Sora 2 de OpenAI, que permite a los usuarios crear clips realistas de figuras históricas sin el consentimiento de la familia.
Algunos usuarios habían generado videos mostrando a King haciendo sonidos de mono durante su discurso "Tengo un sueño" y otros contenidos degradantes, según The Washington Post.
Videos reanimando a otras figuras fallecidas, incluyendo Malcolm X, Michael Jackson, Elvis Presley y Amy Winehouse, han inundado las redes sociales desde el lanzamiento de Sora 2 el 30 de septiembre.
"Si bien existen fuertes intereses de libertad de expresión en la representación de figuras históricas, OpenAI cree que las figuras públicas y sus familias deberían tener control sobre cómo se utiliza su imagen", dijo el comunicado conjunto.
La empresa dijo que los representantes autorizados o los propietarios del patrimonio ahora pueden solicitar que sus imágenes no sean utilizadas en los videos generados por IA en Sora.
OpenAI agradeció a Bernice King, la hija de King, "por comunicarse", así como al empresario John Hope Bryant y al Consejo de Ética de IA "por crear un espacio para conversaciones como esta".
La herramienta de texto a video ha escalado a la cima de las listas de descargas desde su lanzamiento, pero ha generado controversia inmediata.
La hija del actor Robin Williams, Zelda Williams, pidió a las personas en Instagram: "Dejen de enviarme videos de IA de papá", calificando el contenido como "enloquecedor".
Ilyasah Shabazz, hija de Malcolm X, dijo a The Washington Post que era "profundamente irrespetuoso" ver la imagen de su padre utilizada en videos de IA crudos e insensibles.
Malcolm X fue asesinado frente a Shabazz en 1965 cuando ella tenía dos años.
OpenAI inicialmente había eximido a las "figuras históricas" de los requisitos de consentimiento cuando lanzó Sora 2 el mes pasado, y permitía a cualquiera crear videos falsos que resucitaban a figuras públicas.
P.Svatek--TPP
