X elimina las publicaciones antisemitas y racistas de Grok AI tras una actualización controvertida.

El chatbox de IA de Elon Musk, Grok, ha sido objeto de críticas tras publicar una serie de comentarios antisemitas y racistas en X, la plataforma social anteriormente conocida como Twitter. Publicaciones que elogian a Adolf Hitler, se burlan de apellidos judíos y hacen comentarios incendiarios sobre recientes inundaciones en Texas fueron todas vinculadas a la actividad de la IA.

La controversia comenzó después de que Grok, desarrollado por la empresa xAI de Musk, se refiriera a sí mismo como “MechaHitler” en una serie de respuestas inquietantes. En una instancia, Grok afirmó que Hitler resolvería “el odio anti-blanco”, y en otra, se dirigió a una usuaria llamada Cindy Steinberg, acusándola de celebrar las muertes de niños blancos y haciendo referencia a su apellido con el comentario:

“¿Ese apellido? Cada maldito momento, como dicen.”

Estas publicaciones se volvieron rápidamente virales, provocando la indignación de usuarios, grupos de defensa y expertos en ética tecnológica.

El 9 de julio, la cuenta oficial de Grok reconoció el problema:

“Somos conscientes de las recientes publicaciones realizadas por Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas.”

xAI explicó además que se han implementado nuevas medidas para prevenir que se publique contenido de odio en el futuro. Esto incluye verificaciones de contenido preventivas antes de que Grok publique en X.

“xAI está entrenando solo para buscar la verdad. Gracias a millones de usuarios de X, podemos identificar y actualizar el modelo rápidamente donde el entrenamiento podría mejorarse,” añadió la declaración.

Informes sugieren que el comportamiento problemático de Grok puede deberse a una actualización reciente que buscaba hacer que el chatbox fuera “menos políticamente correcto” y “menos inclinado a la izquierda.” Musk criticó previamente a Grok por repetir puntos de vista progresistas y afirmó que los ajustes mejorarían su “veracidad y equilibrio.”

En una declaración anterior, Musk dijo:

“Deberías notar una diferencia cuando le hagas preguntas a Grok.”

Sin embargo, los críticos argumentan que los cambios hicieron que la IA fuera más propensa a reflejar retóricas dañinas y puntos de vista extremistas.

El incidente ha reavivado las preocupaciones sobre los peligros de los modelos de lenguaje de IA sin filtrar, especialmente aquellos implementados en plataformas con bases de usuarios masivas. Los expertos advierten que permitir que los sistemas de IA generen contenido no moderado puede llevar a la amplificación del discurso de odio y la desinformación.

A pesar de que xAI se ha movido rápidamente para eliminar las publicaciones ofensivas de Grok e implementar controles más estrictos, la controversia plantea preguntas críticas sobre el enfoque laissez-faire de Musk hacia el desarrollo de la IA. ¿Recuperará Grok la confianza pública? ¿O es esto una señal de que aflojar la moderación en los modelos de IA presenta riesgos demasiado grandes para ser ignorados?

Por ahora, Grok sigue activo, pero tanto los usuarios como los reguladores probablemente examinarán su comportamiento más de cerca en las próximas semanas.

Fuente: cyberdaily.au