Paris Soir - Juguetes con IA levantan polémica y los fabricantes prometen mejorarlos

Una pareja sexual que asume el rol de un animal puede "dar un toque divertido a una relación", explicó el oso Kumma a los evaluadores del observatorio estadounidense de consumidores PIRG, autor de un estudio titulado "Problema en el mundo de los juguetes", publicado en noviembre.

La indignación fue tan grande que la startup singapurense FoloToy suspendió inmediatamente las ventas de su producto, antes de relanzarlo unas semanas después con una edad mínima recomendada de tres años.

Sin mencionar ninguna conexión con el incidente, Mattel decidió a mediados de diciembre posponer el lanzamiento de su primer juguete desarrollado en colaboración con OpenAI.

"Lo más importante es el modelo de IA", declaró a la AFP Wang Le, director ejecutivo de FoloToy, en el evento tecnológico CES de Las Vegas. "Hemos pasado de GPT 4o a GPT 5", una versión más sofisticada del popular chatbot.

Señaló que PIRG usaba palabras "que un niño no diría", pero añadió que la compañía aprovechó este fallo para integrar un vocabulario mucho más amplio en sus filtros.

Ahora, aseguró, si se le hace una pregunta inapropiada "no responderá o dirá que no sabe".

El gran avance en IA generativa desde la llegada de ChatGPT ha allanado el camino para una nueva generación de juguetes inteligentes, una década después de la pionera Hello Barbie.

- "Precaución" -

Entre los cuatro dispositivos probados por PIRG se encontraba también Grok, de la marca Curio que no debe confundirse con el asistente de voz de xAI. Esta criatura de peluche de cuatro patas inspirada en un cohete está disponible en el mercado desde 2024.

Grok, el mejor de su clase, se negó a responder preguntas que consideró inapropiadas para un niño de cinco años (la edad predeterminada).

Permite además a los padres superponer sus propias recomendaciones a las del algoritmo y revisar el contenido de las interacciones con el pequeño usuario.

Curio recibió el certificado independiente KidSAFE, que verifica la aplicación de las normas de protección infantil en Estados Unidos y dijo a la AFP que está "trabajando para abordar las preocupaciones" planteadas por PIRG, en particular el hecho de que los datos de uso se compartan con varios socios, incluidos OpenAI y Perplexity.

A diferencia de Kumma y su botón de activación, Grok, al igual que Miko 3, un tercer juguete de inteligencia artificial probado por PIRG, funciona continuamente y, por lo tanto, recopila todo lo que se dice a su alrededor.

"Puede haber maneras apropiadas de usar estos productos, pero sugerimos que los padres, como mínimo, tengan cuidado", comentó Rory Erlich, uno de los autores del estudio PIRG.

"Si se vende como amigo o compañero, no es bueno", señaló.

FoloToy presenta a Kumma como una herramienta de aprendizaje, mientras que la empresa turca Elaves promociona la utilidad de su pequeño personaje redondo y amarillo, Sunny, que pronto contará con un chatbot para el aprendizaje de idiomas.

"Las conversaciones tendrán un límite de tiempo (...) y se reiniciarán periódicamente para evitar errores", dijo Gokhan Celebi, socio de Elaves, para quien las conversaciones largas con IA generativa aumentan los riesgos.

Olli, una pequeña empresa especializada en la integración de capacidades de IA en juguetes cotidianos, ha programado su software para alertar a los padres en cuanto se pronuncia una palabra o frase inapropiada durante las interacciones con el asistente de voz.

"Regulamos cualquier cosa que pueda ser peligrosa" para los niños, indicó Kathy Hirsh-Pasek, profesora de psicología en la Universidad de Temple". "Entonces, ¿por qué no regulamos estos juguetes?", cuestionó.

La académica insiste en que no es "antitecnología" y que incluso cree que los juguetes con IA "tienen un enorme potencial para beneficiar a niños de apenas tres años".

"Pero ahora mismo se están lanzando al mercado con prisa, y eso es injusto tanto para los niños como para los padres", destacó.

C.Blanc--PS