Revisión de la aplicación Sora

‍

‍

¿Qué es la aplicación Sora?

‍

Sora está creado por OpenAI y es una plataforma social de creación de vídeos impulsada por una IA avanzada que permite a los usuarios generar vídeos cortos muy realistas y compartirlos en línea.

Características principales:

‍

• Los usuarios pueden escribir mensajes de texto (por ejemplo, «una persona montando una patineta en una ciudad al atardecer») y Sora generará un vídeo corto que coincida con el mensaje.
  
  
• La aplicación también incluye una función de «cameo» o subida de imágenes: los usuarios pueden subir su propio rostro o voz (o dar su consentimiento a que otros usen su imagen) para que ellos (o sus amigos) puedan aparecer en escenas de vídeo generadas por la IA. (The Verge) Esta es una gran parte de Sora. Los vídeos generados normalmente por IA no son tan interesantes hoy en día. Pero poder poner tu cara, la cara de tus amigos o la cara de gente famosa en los vídeos que le pides a Sora que haga está despertando mucho interés. Y debe venir acompañado de consideraciones serias.
  
  
• También actúa como un feed de redes sociales: los usuarios pueden ver vídeos generados por otros, remezclarlos o compartirlos, seguir a amigos, etc. El diseño imita a las populares aplicaciones de vídeo de formato corto. (Laboratorios de intuición)
  
  
• La aplicación se lanzó inicialmente en iOS (en EE. UU. y Canadá) y luego se expandió a Android. (TechCrunch)
  
  
• Sora se basa en un modelo de vídeo de IA subyacente (a veces denominado Sora o Sora 2) de OpenAI. (IA abierta)
  
  

¿Cómo funciona Sora?

‍

Este es un desglose de cómo funciona Sora desde la perspectiva del usuario/padre.

Experiencia de usuario:

‍

• Tú (o tu hijo) instalas la aplicación, creas una cuenta y, a continuación, puedes ver los vídeos existentes en el feed o crear otros nuevos.
  
  
• Para crear un vídeo: simplemente escribe un mensaje de texto (lo que quieres ver) y, si lo deseas, sube una imagen o tu rostro para hacer un cameo y la IA generará un vídeo corto. Por ejemplo, la aplicación dice: «Convierte tus ideas en vídeos y déjate llevar por la acción. » (Tienda de aplicaciones)
  
  
• La función «cameo» requiere que subas un vídeo y un audio tuyos una sola vez, de forma similar a configurar Face-ID en un dispositivo Apple. La diferencia es que también te indica que digas algunas frases para captar tu voz. Una vez completado, Sora puede capturar tu aspecto y tu sonido; luego, tú o tus amigos aprobados pueden generar escenas con tu imagen. Te recomendamos encarecidamente que no permitas que otras personas accedan a tu cameo. Limitarte a algunos amigos de confianza podría estar bien.
  
  
• Los vídeos se pueden compartir en el feed, otras personas pueden dar me gusta, comentarlos o remezclarlos (según los permisos) y seguir la actividad. El feed es algorítmico, similar al funcionamiento de otras aplicaciones de vídeo de formato corto. (Laboratorios de intuición)
  
  

Seguridad y barandillas (lo que dice la empresa):

• OpenAI afirma que crearon Sora con «seguridad desde el principio» y que tienen funciones como marcas de agua visibles, metadatos de procedencia (para etiquetar vídeos como generados por IA) y herramientas internas para rastrear los vídeos. (Noticias de ABC)
  
  
• Hay políticas de contenido: por ejemplo, la aplicación dice que no puedes generar ciertas categorías de contenido, como contenido sexual explícito, representar a figuras públicas sin permiso, etc. Sin embargo, muchos todavía lo hacen. Los usuarios pueden decidir si otros usuarios pueden usar su cameo para generar vídeos, lo que ayuda.
  
  
• OpenAI también afirma que para los usuarios más jóvenes (adolescentes), hay filtros de feed adicionales, un límite de desplazamiento continuo, una opción para activar el feed personalizado, etc.
  
  

Limitaciones o preocupaciones de los expertos:

• Incluso con las barandillas, algunos expertos afirman que las protecciones son mínimas y no lo suficientemente sólidas para los niños. Por ejemplo, hay un informe que indica que el uso no consentido o el uso entre pares de una imagen de rostro o voz aún podría ocurrir. (Padres)
  
  
• Como la generación de vídeos es muy realista, a los usuarios más jóvenes les resulta más difícil distinguir entre lo «real» y lo «falso generado por la IA», lo que suscita preocupación por la confianza, el uso indebido de la identidad, el acoso, etc.
  
  
• Algunas reseñas antiguas o más críticas suscitan preocupación por la posibilidad de acoso, falsificaciones falsas, uso indebido de la imagen, etc. (Gabb)

‍

¿Qué más deben saber los padres sobre Sora?

‍

Estas son algunas consideraciones importantes para los padres cuando se trata de Sora:

‍

Edad y permisos:

‍

• Los términos de la aplicación requieren que los usuarios tengan al menos 13 años; cualquier persona menor de 18 años debe obtener el permiso de los padres.
  
  
• Sin embargo, el simple hecho de indicar una edad mínima no garantiza un uso seguro en la vida real. Los adolescentes expertos en tecnología pueden eludir las restricciones.
  
  

Riesgos de privacidad y semejanza:

‍

• La función de cameo o subida de rostros significa que la aplicación almacena o usa el rostro y la voz de su hijo. Una vez que tu imagen esté en el sistema, aunque la elimines, surgirán dudas sobre lo que queda. Los expertos advierten que subir tu rostro o tu voz conlleva riesgos de uso indebido, suplantación de identidad o acoso.
  
  
• Incluso si tu hijo no usa Sora personalmente, es posible que siga viendo vídeos generados por Sora en otras plataformas (TikTok, Instagram, YouTube) porque las personas los comparten fuera de Sora. Eso significa que estarán expuestos incluso sin acceso directo.
  
  

Exposición al feed y al contenido:

‍

• El feed se basa en algoritmos y puede mostrar un montón de contenido de vídeo breve y llamativo (similar a TikTok). Esto conlleva los riesgos típicos de pasar tiempo frente a la pantalla, adicción a los vídeos y contenido que puede resultar perturbador o manipulador.
  
  
• Los expertos citan que Common Sense Media ha calificado a Sora como un «riesgo inaceptable» para los niños debido a la falta de controles parentales sólidos y a la posibilidad de contenido dañino.
  
  

Creación y uso compartido de contenido:

‍

• Es posible que a los niños les entusiasme generar contenido (que puede ser divertido y creativo), pero deben entender las consecuencias de compartirlo: una vez que se publica un vídeo, las copias pueden difundirse, otras personas pueden mezclarlas y su imagen puede usarse más allá de lo que esperan.
  
  
• Existe la posibilidad de que los compañeros presionen: los amigos pueden decir: «Oye, hagamos un vídeo loco con tu cara», o alguien podría engañar o manipular a otro usuario para que suba su rostro o su voz.
  
  
• La línea entre el «remix divertido» y el contenido hiriente es muy delgada: incluso las escenas no violentas y no explícitas pueden ser humillantes o usarse para intimidar. Los expertos señalan que la capacidad de crear escenas ultrarrealistas significa que los usos indebidos pueden pasar desapercibidos. (Gabb)
  
  

Alfabetización digital y conversación:

‍

• En lugar de limitarse a bloquear o prohibir la aplicación, los expertos recomiendan mantener conversaciones abiertas con los niños: qué significa tener la cara o la voz en la aplicación, cómo saber si un vídeo es real o generado por la IA, cómo funciona la presión de grupo y cómo funciona el intercambio. (Padres)
  
  
• También es un momento para hablar de las huellas digitales: una vez que subes algo (rostro/voz/imagen), puedes perder cierto grado de control.
  
  
• Los padres deben supervisar las aplicaciones que instalan sus hijos, asegurarse de que se incluyan simulaciones como Sora en las discusiones sobre «qué pasa si un vídeo parece real pero es falso» y ayudar a los niños a entender la diferencia.
  
  

Medidas de seguridad técnicas y qué comprobar:

‍

• Comprueba la configuración de la aplicación: si las funciones de mensajes están activadas, si el desplazamiento continuo está activado/desactivado y si tu hijo ha subido un cameo.
  
  
• Fomente la configuración de privacidad en conjunto: asegúrese de que su cuenta sea privada, que todos no puedan usar su imagen y que se entiendan los permisos.
  
  
• Mantenga los dispositivos en espacios compartidos, use herramientas para pasar tiempo frente a la pantalla si es necesario y hable sobre el contenido que el niño está viendo y creando.
  
  
• Analicen juntos qué vídeos está grabando y compartiendo su hijo, incluso si se parecen a otros o si han permitido que usuarios desconocidos los reutilicen.
  
  

Conclusión: ¿Sora es seguro para los niños?

‍

En este momento, Sora conlleva riesgos importantes para los niños y los adolescentes. No es intrínsecamente seguro para los niños más pequeños sin una supervisión y unas normas parentales muy activas.

‍

Por qué:

‍

• El potencial creativo y divertido es real: Sora permite a los usuarios generar vídeos imaginativos, insertarse en escenas, remezclar y compartir. Eso puede resultar emocionante.
  
  
• Sin embargo, la infraestructura de seguridad sigue siendo limitada: la función de subir cameos o rostros es intrínsecamente riesgosa, el feed puede mostrar contenido difícil de moderar, los controles parentales son mínimos y la exposición a la remezcla o el intercambio implica una pérdida de control.
  
  
• Los expertos y organismos de control (como Common Sense Media) ya han señalado a Sora como un «riesgo inaceptable» para los niños debido a los controles mínimos y al alto potencial de uso indebido. (Medios de comunicación de sentido común)
  
  
• El realismo de los vídeos significa que los niños pueden ser menos capaces de distinguir lo que es real de lo generado por la IA, lo que genera preocupación en torno a la autoestima, el acoso, el uso indebido de la identidad y el consentimiento.
  
  

Lo que recomendamos a los padres:

‍

• Si tu hijo es menor de, digamos, 16 años (o menos), podrías considerar no permitirle usar Sora de forma independiente ahora mismo, a menos que estés sentado con él y revisando lo que genera y comparte.
  
  
• Si permites su uso, asegúrate de tener reglas claras: no subir contenido facial o de voz sin discutirlo; establecer permisos para hacer cameos; revisar su feed y compartirlo; hablar sobre lo que ven; mantener los dispositivos en áreas familiares comunes.
  
  
• Haga hincapié en el principio: el hecho de que pueda generar algo no significa que deba compartirlo.
  
  
• Usa la presencia de Sora como un momento de aprendizaje sobre el mundo digital en general: cómo crea la IA, cómo funciona la identidad en línea, cómo compartir puede tener consecuencias a largo plazo.
  
  

Sora promete mucho desde el punto de vista creativo. Pero para los niños y adolescentes, definitivamente no es «seguro por defecto». Requiere una crianza activa, conversaciones sobre alfabetización digital y supervisión. En esta etapa, recomendamos tratar a Sora como una aplicación de alto riesgo en lugar de una plataforma social típica. Con reglas y participación estrictas, los adolescentes mayores pueden usarla de manera responsable, pero es probable que los niños más pequeños deban estar restringidos o supervisados de cerca.

‍

Para obtener más información sobre la IA, consulta nuestros siguientes recursos:

‍

• Guía definitiva sobre compañeros de IA
• Revisión de la aplicación ChatGPT
• Revisión de la aplicación Character AI
• Revisión de la aplicación Replika
• La guía completa sobre Deepfakes e IA

¿Qué pasa si tengo más preguntas? ¿Cómo puedo mantenerme al día?

‍

¡Dos acciones que puedes tomar!

‍

1. Suscríbase a nuestro boletín de tendencias tecnológicas, el Descargar PYE. Aproximadamente cada 3 semanas, compartiremos las novedades, lo que está haciendo el equipo de PYE y un mensaje de Chris.
2. ¡Haga sus preguntas en nuestra comunidad privada de padres llamada The Table! No es otro grupo de Facebook. Sin anuncios, sin algoritmos, sin asteriscos. ¡Solo conversaciones honestas y críticas y aprendizaje profundo! Para padres que quieren «ir despacio» juntos. ¡Conviértase en miembro hoy mismo!

‍