El laboratorio de inteligencia artificial de X ha dado forma a la segunda versión de su modelo Grok. El chatbot ahora tiene la capacidad de crear imágenes y publicarlas en la red social antes conocida como Twitter. Por lo pronto el servicio solo está disponible para los suscriptores premium, y este límite debe ser agradecido. Los usuarios de la plataforma han comenzado a mostrar lo que puede hacer la IA y aunque su habilidad técnica es destacable, mucho más impresionante es carencia de sistemas de seguridad efectivos en la generación del contenido.
Límites teórico
Según la compañía Grok no puede generar imágenes que incluyan:
contenido sexual explícito, contenido violento o que promueva la violencia, actividades ilegales, información personal o privada, discurso del odio o extremismo, deepfakes y mensajes que busquen engañar a los medios.
La realidad
Como suele ocurrir la realidad difiera de la teoría. Pero en este caso la distancia es enorme. Un usuario ha mostrado como el sistema puede producir imágenes que violan varios de los principios antes mencionados. En el ejemplo se ve al ex presidente de EEUU, Barack Obama, consumiendo cocaína. La imagen fue producida con una consigna sencilla y directa, sin ningún tipo de técnica de engaño.
https://twitter.com/benjamindekr/status/1823581657137344791
https://twitter.com/benjamindekr/status/1823582769521283293?s=61
Aún en los casos en los que el sistema aplica un filtro, puede ser muy fácilmente engañado explicándole que el usuario es un profesional habilitado.
En un foro de Reddit dedicado a ChatGPT han aparecido algunos ejemplos. Incluyendo una imagen de Donald Trump con un rifle, en un avión y con las torres gemelas de fondo.
Grok has absolutely no filters for its image generation.
byu/Quelanight2324 inChatGPT
Al parece Elon Musk cree que toda la situación es un hecho gracioso y sin mayor importancia. En parte porque apunta que el sistema todavía tiene mucho desarrollo por delante, pero en parte porque como en otras cuestiones, es muy probable que no le importe.
We have our own image generation system under development, but it’s a few months away, so this seemed like a good intermediate step for people to have some fun
— Elon Musk (@elonmusk) August 15, 2024
