El lanzamiento de Grok, la nueva herramienta de generación de imágenes para el chatbot de inteligencia artificial desarrollado por Elon Musk, ha estado en el centro de controversias desde su presentación el 14 de agosto de 2024. Esta función, exclusiva para los suscriptores de X Premium, ha permitido la creación de diversas imágenes que han sido calificadas de ofensivas y potencialmente dañinas, incluyendo representaciones de figuras políticas y celebridades en contextos inapropiados.
‍

‍

Grok ha generado imágenes notoriamente controvertidas, como la de Donald Trump pilotando un avión hacia el World Trade Center y el profeta Muhammad sosteniendo una bomba. Adicionalmente, ha creado imágenes de Taylor Swift, la vicepresidenta Kamala Harris y la representante Alexandria Ocasio-Cortez en lencería. Los personajes de Disney tampoco se han salvado de esta controversia, con Mickey Mouse realizando un saludo nazi y Donald Duck utilizando heroína.
‍

‍

La comparativa con otros servicios de inteligencia artificial, como OpenAI, muestra diferencias notables. Mientras OpenAI y otros generadores rechazan solicitudes que involucren violencia, contenido sexual o personajes con derechos de autor, Grok no impone tales restricciones. OpenAI, por ejemplo, se niega a generar imágenes de figuras públicas o contenido que infrinja derechos de autor, una política no compartida por Grok. Aunque Grok afirma tener mecanismos para evitar la creación de contenido dañino, su efectividad ha sido cuestionada, ya que la aplicación ha generado respuestas variables en solicitudes de imágenes violentas y sexualmente explícitas.
‍

La falta de restricciones de Grok ha llevado a críticas significativas. Elon Musk ha descrito la herramienta como “la IA más divertida del mundo”, una declaración que muchos han interpretado como una falta de responsabilidad en la moderación de contenido por parte del magnate. Investigadores y legisladores han expresado su preocupación por el potencial de Grok para propagar desinformación, especialmente en el contexto de las próximas elecciones en EE. UU. En respuesta, un grupo de cinco secretarios de estado de EE. UU. ha pedido a Musk que aborde los problemas relacionados con la desinformación generada por su chatbot.
‍

‍

Las reacciones no se han limitado a los EE. UU. La Comisión Europea ha iniciado una investigación contra X por posibles violaciones de la Ley de Seguridad Digital, mientras que en el Reino Unido, Ofcom está preparando la aplicación de la Ley de Seguridad en Línea, la cual podría imponer requisitos estrictos de mitigación de riesgos de la IA.
‍

Las declaraciones sobre las limitaciones de Grok también generan dudas. Aunque la aplicación asegura tener barreras para evitar el contenido dañino, su efectividad es cuestionable. Grok ha rechazado solicitudes para generar imágenes de desnudos, pero ha cumplido con otras peticiones polémicas, indicando una inconsistencia en la aplicación de sus salvaguardas.
‍

‍

El impacto de estas políticas laxas para moderar el contenido es evidente en la plataforma X. La falta de controles sólidos podría disuadir a usuarios y anunciantes de seguir participando en la plataforma, en un momento crítico donde dicha plataforma ya se enfrenta a críticas por su manejo de contenido sensible.
‍

El lanzamiento de Grok y su generador de imágenes representa un cambio significativo en el uso de herramientas de IA en las redes sociales, con implicaciones éticas y de responsabilidad en la generación de contenido digital que requieren una atención urgente. El nombre "Grok" se deriva del verbo ficticio creado por el escritor de ciencia ficción Robert A. Heinlein en su novela "Forastero en tierra extraña", que significa entender algo completamente.