Mattel se ha asociado con OpenAI para crear juguetes impulsados por inteligencia artificial (IA). Esto podría resultar en una diversión increíble, pero también suena como el inicio de muchas historias sobre cosas que pueden salir mal. Quiero aclarar que no creo que la IA vaya a acabar con el mundo. He utilizado ChatGPT de muchas maneras, incluso como ayuda en actividades con mis hijos. La IA me ha ayudado a inventar cuentos para dormir y diseñar libros para colorear, entre otras cosas. Pero eso es solo yo usándola, no dejándola interactuar directamente con los niños.
El anuncio oficial es muy optimista. Mattel dice que traerá la “magia de la IA” al tiempo de juego, prometiendo experiencias seguras, creativas y apropiadas para los niños. OpenAI también está emocionada de ayudar a dar vida a estos juguetes con ChatGPT, y ambas empresas parecen decididas a presentar esto como un avance en el juego y el desarrollo infantil.
Sin embargo, no puedo evitar pensar en cómo las conversaciones con ChatGPT pueden derivar en teorías de conspiración extrañas, pero ahora es una muñeca Barbie hablando con un niño de ocho años. O un GI Joe que pasa de mensajes positivos sobre “saber es la mitad de la batalla” a hablar de minería de criptomonedas porque algún niño de seis años escuchó la palabra “blockchain” y pensó que sonaba como un arma genial para el juguete.
Mi primer pensamiento fue sobre la película “Small Soldiers”, una comedia de 1998 sobre un ejecutivo de una empresa de juguetes que decide ahorrar dinero instalando chips de IA militar en figuras de acción, lo que lleva a los juguetes a librar una guerra de guerrillas en los suburbios. Era una sátira, y no una mala. Pero, aunque ese resultado sea exagerado, es difícil no ver el potencial caótico de instalar IA generativa en los juguetes con los que los niños pasan mucho tiempo.
Entiendo el atractivo de la IA en un juguete. Barbie podría ser más que una muñeca para vestir; podría ser una conversadora curiosa y astuta que explique misiones espaciales o juegue a hacer diferentes roles. O podrías tener un coche de Hot Wheels comentando sobre la pista que construiste. Incluso puedo imaginar la IA en Uno como una herramienta que realmente enseñe a los niños más pequeños sobre estrategia y deportividad.
Pero creo que los modelos de IA generativa como ChatGPT no deberían ser utilizados por niños. Pueden ser simplificados por razones de seguridad, pero en cierto punto, eso deja de ser IA y se convierte en un conjunto de respuestas predefinidas sin la flexibilidad de la IA. Esto significa evitar la rareza, las alucinaciones y los momentos de inapropiado no intencionado que los adultos pueden ignorar, pero que los niños podrían absorber.
Mattel ha estado trabajando en esto durante mucho tiempo y sabe lo que hace con sus productos. No les conviene que sus juguetes se comporten de manera extraña. La empresa ha afirmado que integrará seguridad y privacidad en cada interacción de IA, prometiendo enfocarse en experiencias apropiadas. Pero “apropiado” es una palabra muy resbaladiza en IA, especialmente cuando se trata de modelos de lenguaje entrenados en internet.
ChatGPT no es un sistema cerrado diseñado específicamente para juguetes. No fue creado para niños pequeños. Y aunque lo entrenes con pautas, filtros y módulos de voz especiales, sigue basado en un modelo que aprende e imita. También surge una pregunta más profunda: ¿qué tipo de relación queremos que los niños tengan con estos juguetes?
Hay una gran diferencia entre jugar con una muñeca e imaginar conversaciones con ella, y formar un vínculo con un juguete que responde de manera independiente. No espero que una muñeca se convierta en un Chucky o un M3gan, pero cuando difuminamos la línea entre un compañero de juego y un programa, los resultados pueden ser difíciles de predecir.
Uso ChatGPT con mi hijo de la misma manera que uso tijeras o pegamento: como una herramienta para su entretenimiento que controlo. Soy el guardián, y la IA integrada en un juguete es difícil de monitorear de esa manera. La muñeca habla. El coche responde. El juguete interactúa, y los niños pueden no notar nada extraño porque no tienen la experiencia.
Si la IA de Barbie tiene un error, si GI Joe de repente comienza a usar metáforas militares oscuras, o si un coche de Hot Wheels dice algo raro, un padre podría no darse cuenta hasta que ya se ha dicho y absorbido. Si no estamos cómodos dejando que estos juguetes funcionen sin supervisión, no están listos.
No se trata de prohibir la IA en la infancia, sino de saber la diferencia entre lo que es útil y lo que es demasiado arriesgado. Quiero que la IA en el mundo de los juguetes esté muy restringida, como un programa de televisión dirigido a niños pequeños que está cuidadosamente diseñado para ser apropiado. Esos programas no se desvían del guion, pero el poder de la IA radica en escribir su propio guion.
Puede que suene demasiado duro al respecto, y hay que reconocer que ha habido otros sustos tecnológicos con juguetes. Los Furbies eran inquietantes. El Elmo que habla tenía fallos. Las Barbies que hablaban alguna vez tenían frases sexistas sobre que las matemáticas eran difíciles. Todos problemas que podrían resolverse, excepto tal vez los Furbies. Creo que la IA en los juguetes tiene potencial, pero seré escéptico hasta ver cómo Mattel y OpenAI navegan ese estrecho camino entre no usar realmente la IA y darle a la IA demasiada libertad para ser un mal amigo virtual para tu hijo.
