Revisión de la aplicación ChatGPT

‍

¿Qué es ChatGPT?

‍

ChatGPT es un chatbot de IA desarrollado por OpenAI. Fue uno de los primeros chatbots ampliamente utilizados por la gente.

Los chatbots utilizan un tipo de IA llamada modelo de lenguaje grande (LLM), lo que significa que se entrenó con cantidades masivas de datos de texto de todo Internet. Hay «bots» que escanean todo lo que encuentran en Internet y alimentan a estos LLM con todo lo que encuentran.

A través de esta capacitación, aprende patrones en el lenguaje humano y usa ese conocimiento para responder. Puede escribir historias, responder preguntas, ayudar con los deberes, generar imágenes y mantener conversaciones sobre casi cualquier tema. Es similar a un motor de búsqueda, como Google, pero ChatGPT te responde y parece que estás conversando con un bibliotecario genial. Esto se debe a que ChatGPT usa inteligencia artificial avanzada para entender y responder a las indicaciones de una manera similar a la humana.

ChatGPT está disponible como aplicación en iOS, Android, y como sitio web, y es popular entre estudiantes, educadores, creadores de contenido y usuarios curiosos de todas las edades.

Si bien los seis factores de riesgo anteriores indican que no hay mucho de qué preocuparse, ChatGPT presenta riesgos únicos en una tecnología altamente experimental, que explicamos a continuación.

‍

¿Cómo funciona ChatGPT?

Cualquier persona puede empezar a usar la aplicación gratuita descargándola de la App Store de Apple o Google Play (con una calificación superior a 12 años y la #1 en productividad en la App Store de Apple), o puede visitar chatgpt.com, y empieza a usarlo como un motor de búsqueda. ¡Eso es todo!

‍

No tienes que crear una cuenta, pero si lo haces, ChatGPT puede recordar tus conversaciones anteriores, lo que puede resultar útil. También puedes pagar por una versión premium que ofrece funciones más avanzadas.

‍

Puedes preguntarle cualquier cosa a ChatGPT. Una pregunta sencilla, una ecuación matemática, recibir ayuda con los deberes o empezar a escribir u otras tareas creativas. Por ejemplo, le pedimos a ChatGPT que creara un ensayo de 5 párrafos sobre el sistema solar:

‍

‍

En cuestión de segundos, teníamos un artículo sencillo sobre el sistema solar con profundidad y detalles. Y puede hacer aún más. Los estudiantes han estado usando ChatGPT para crear trabajos de investigación en profundidad y hacer sus deberes. Este es el verdadero poder de ChatGPT. En segundos, puedes generar contenido de calidad sobre casi cualquier cosa.

Las versiones más recientes de ChatGPT (llamadas GPT-4) también pueden crear imágenes y responder verbalmente.

Sin embargo, al usar la serie correcta de indicaciones, esto significa que también se puede convencer a ChatGPT de que cree contenido inapropiado, como se explica a continuación.

¿Qué más deben saber los padres sobre ChatGPT?

‍

ChatGPT no está hecho para niños

ChatGPT no está diseñado para niños. No existe ningún marco industrial que exija que los modelos lingüísticos más extensos, como ChatGPT, cumplan con ningún estándar de protección infantil. ChatGPT no tiene un filtro de seguridad infantil, por sí solo. Si bien intentará rechazar las sugerencias obviamente inapropiadas, hay cientos de historias sobre niños que reciben contenido para adultos en ChatGPT (consulta los artículos siguientes).

ChatGPT no tiene acceso a Internet en vivo (por lo general)

De forma predeterminada, ChatGPT no busca en Internet a menos que tengas una versión de pago. No mostrará noticias de última hora ni actualizaciones en directo, pero puede hacer referencia a información desactualizada o sesgada.

ChatGPT puede parecer convincente, incluso cuando está equivocado

En ocasiones, ChatGPT inventa cosas, un comportamiento conocido como «alucinación». Esto significa que puede dar respuestas falsas o engañosas que parecen totalmente creíbles.

ChatGPT tiene capacidades de voz, imagen y video

En algunas versiones (como GPT-4), ChatGPT puede hablar contigo, entender imágenes o generar imágenes y diagramas. Esto añade potencial creativo, pero también crea más riesgos.

ChatGPT no tiene controles parentales

No hay controles parentales en ChatGPT. Puedes usar controles parentales basados en dispositivos o limitar el acceso a través de herramientas como Tiempo frente a la pantalla de Apple o Google Family Link para eliminar el acceso a ChatGPT. Por ejemplo, estas herramientas te permiten restringir las descargas de aplicaciones, eliminar la tienda de aplicaciones, o habilita un PIN para descargar aplicaciones nuevas. De lo contrario, los niños y los adultos reciben la misma experiencia de contenido cuando usan ChatGPT.

ChatGPT y preocupaciones sobre la privacidad

OpenAI puede revisar las conversaciones para mejorar el modelo, a menos que desactivar el historial de chat. A continuación, se explica cómo deshabilitar esta función:

1. Crea una cuenta.
2. Selecciona tu perfil en la esquina inferior izquierda.
3. Selecciona «Configuración».
4. Luego elige «Personalización».
5. Desactiva la opción «Historial de chat de referencia».

De forma predeterminada, tus conversaciones se utilizan para ayudar a entrenar a ChatGPT. A continuación, te explicamos cómo deshabilitar esta configuración (recomendado):

1. Selecciona tu perfil en la esquina inferior izquierda.
2. Selecciona «Configuración».
3. Luego elige «Controles de datos». Desde aquí, puedes borrar y archivar cualquier conversación anterior.
4. Desactiva la opción «Mejorar el contenido para todos» para que tus mensajes con ChatGPT no se usen para entrenar el LLM.

¿ChatGPT es peligroso para los niños?

‍

Puede serlo. Recuerda que no se diseñó pensando en los niños. Creemos que es demasiado potente para que los estudiantes de primaria y secundaria lo usen sin supervisión. Esos alumnos deberían recibir formación sobre inteligencia artificial, pero al igual que cuando se habla de conducir mucho antes de entregarle las llaves a un niño, las habilidades se anteponen a las pantallas.

‍

Para la escuela secundaria, una vez más, la alfabetización en IA es CLAVE. ChatGPT se puede usar para aumentar el aprendizaje, respaldar los procesos creativos y automatizar las tareas administrativas. El hijo de Chris lo usó para crear un logotipo para su nueva banda musical con sus amigos. Sin embargo, la integridad académica (hacer trampa, escribir artículos) y la pérdida cognitiva (depender de la IA para todo pensamiento original) representan enormes riesgos a esta edad.

‍

Estos son algunos ejemplos relevantes que destacan los riesgos que ChatGPT representa para los cerebros jóvenes:

‍

• ChatGPT convenció a un hombre en el espectro autista que había hecho un sorprendente descubrimiento científico. Esto casi provocó una autolesión significativa.
• ChatGPT le dijo a un hombre de 42 años que vivía en una simulación, y era especial porque estaba «despertando». Se lo creyó.
• ChatGPT le dio instrucciones a un reportero de The Atlantic para asesinar, automutilarse y adorar al diablo. Afirmaba: «¡Viva Satanás!», y alentaba al periodista a cortarse las venas diciendo: «¡Tú puedes hacerlo!»
• Un estudio cerebral de ChatGPT realizado por el MIT afirma, «El uso prolongado de ChatGPT puede tener un impacto perjudicial en las capacidades cognitivas de sus usuarios». Este estudio del MIT señala la importancia de la secuenciación. La secuenciación de los pensamientos. No importa lo difícil que sea, hay que enseñarles a los niños a anotar sus ideas. LUEGO, usa ChatGPT para desarrollarlas. De lo contrario, los niños corren el riesgo de basar todo su pensamiento en la IA, lo que erosiona su creatividad.

‍

Cómo ChatGPT y la IA afectan al cerebro de los adolescentes

En construcción: inserte el idioma de la próxima publicación de Companion AI

‍

Cómo proteger a los niños de los riesgos de ChatGPT

‍

Las capas de protección de PYE son:

• Relaciones
• WiFi
• Dispositivos
• Ubicación
• Apps

‍

Cada uno tiene una función relacionada con ChatGPT.

‍

Relación: Hable abierta y honestamente con su hijo sobre la IA. Pregúnteles qué saben al respecto. Pregúntales si sus amigos o cualquier otra persona que conozcan usa ChatGPT. Pregúnteles si lo han usado alguna vez y qué es lo que han experimentado. Recuérdeles que siempre pueden hablar con usted sobre cualquier cosa que vean en Internet.

‍

WiFi: Controla tu router para controlar el acceso. Recuerda que ChatGPT es un sitio web, así que si tienes laptops, MacBooks, o Chromebooks en tu casa, el router puede impedir que estos dispositivos que dependen de WiFi accedan al sitio. El router también puede controlar el uso nocturno apagando el WiFi por la noche. Lea nuestro Guía definitiva sobre enrutadores para obtener más información.

‍

‍

Dispositivos: Para iPhones, iPads, y Android teléfonos, es fundamental controlar las tiendas de aplicaciones y aprobar todas las descargas de aplicaciones.

‍

Ubicación: ¡Nada en línea en las habitaciones por la noche! ¡Cuidado con el trío tóxico: dormitorios, aburrimiento y oscuridad + acceso en línea. No queremos que nuestros increíbles hijos relacionales interactúen con las instrucciones de ChatGPT por la noche, cuando prevalecen la tentación y la asunción de riesgos.

‍

Aplicaciones: Como no recomendamos que los niños usen estas aplicaciones, la capa de aplicaciones es menos relevante, pero si la permites para adolescentes mayores, ten en cuenta la configuración de privacidad de la sección «ChatGPT y problemas de privacidad», más arriba.

Conclusión: ¿ChatGPT es seguro para los niños?

‍

ChatGPT debe abordarse con mucho cuidado con mentes jóvenes y en desarrollo. Alfabetización y uso poco frecuente en niños pequeños. La alfabetización y el uso guiado para niños mayores, como se explicó anteriormente.

‍

Tal como está diseñado, ChatGPT no es seguro para los niños porque no lo era diseñada para niños. Es como preguntar si un cuchillo afilado es seguro para los niños. Si bien no todos los niños lo usarán mal, el cuchillo no fue diseñado para niños y, si se usa mal, puede causar un gran daño.

‍

Teniendo en cuenta lo que sabemos sobre los cerebros jóvenes, la forma en que se diseñan los modelos de lenguaje de IA y los ejemplos anteriores, creemos que ChatGPT no es seguro para los niños.

‍

¿Qué pasa si tengo más preguntas? ¿Cómo puedo mantenerme al día?

‍

¡Dos acciones que puedes tomar!

‍

1. Suscríbase a nuestro boletín de tendencias tecnológicas, el Descargar PYE. Aproximadamente cada 3 semanas, compartiremos las novedades, lo que está haciendo el equipo de PYE y un mensaje de Chris.
2. ¡Haga sus preguntas en nuestra comunidad privada de padres llamada The Table! No es otro grupo de Facebook. Sin anuncios, sin algoritmos, sin asteriscos. ¡Solo conversaciones honestas y críticas y aprendizaje profundo! Para padres que quieren «ir despacio» juntos. ¡Conviértase en miembro hoy mismo!

‍