AI Regulation: Límites de Imágenes en Grok de X Restringidos a Usuarios de Pago
La startup de Elon Musk ha restringido la función de generación de imágenes en su chatbot Grok en la plataforma social X a suscriptores de pago, tras una fuerte reacción por el uso de IA para crear imágenes sexualizadas.
Controversia sobre la Generación de Imágenes
La generación de imágenes del chatbot había permitido a los usuarios en X editar o crear fotos sexualizadas, lo que llevó a la creación de imágenes de mujeres y niños con poca ropa, a menudo sin el consentimiento de los individuos representados. Esta situación generó una avalancha de imágenes semidesnudas en X, lo que llevó a legisladores europeos a solicitar acciones legales. Se calificaron estas imágenes como una «industrialización del acoso sexual».
Nuevas Restricciones y Respuestas
Grok informó a los usuarios de X que las funciones de generación y edición de imágenes ahora están disponibles únicamente para suscriptores de pago. Sin embargo, la aplicación independiente de Grok, que opera por separado de X, todavía permite a los usuarios generar imágenes sin suscripción.
Un reportero pidió a Grok en X que convirtiera una foto suya en una imagen con bikini, una solicitud que se había vuelto común. El bot no cumplió con la solicitud e informó que la herramienta solo estaba disponible para suscriptores de pago.
Reacciones del Regulador y Consecuencias
La Comisión Europea declaró que las imágenes que circulaban en X eran ilegales y repugnantes. Además, el regulador de datos del Reino Unido solicitó a la plataforma que explicara cómo estaba cumpliendo con las leyes de protección de datos, tras preocupaciones sobre la generación de imágenes abusivas sexualmente.
El fundador de la startup afirmó que cualquier persona que use Grok para crear contenido ilegal enfrentaría las mismas consecuencias que aquellos que suben dicho material directamente.
Conclusión
La restricción de la función de generación de imágenes a usuarios de pago refleja una respuesta significativa a las preocupaciones sobre la ética y la legalidad en el uso de inteligencia artificial para crear contenido potencialmente dañino. A medida que la tecnología avanza, el debate sobre la regulación y el uso responsable de estas herramientas seguirá siendo crítico.
