"No alucines": acaban de descubrir que Apple Intelligence esconde instrucciones para evitar que se vuelva loca

Apple Intelligence acaba de llegar en fase beta a los iPhone que tienen iOS 18.1 y también a los Mac con macOS Sequoia. Las posibilidades de Apple Intelligence son muchas: desde la generación de texto, imágenes, una Siri más inteligente. El trabajo realizado dentro de Apple es impresionante, como pudo comprobar nuestro compañero Pedro Aznar en sus primeras impresiones.

Ahora los desarrolladores pueden probar con total libertad Apple Intelligence dentro de su exclusivo programa de betas y, dentro del código de macOS, han encontrado auténticos tesoros. Estamos hablando de los "prompts" o las instrucciones que Apple le ha dado a su propia IA para que actúe como ellos quieren.

Apple Intelligence también necesita instrucciones como cualquier otra IA

Si no estás familiarizado con otras inteligencias artificiales como ChatGPT o Claude, tienes que saber que necesitan instrucciones para saber cómo comportarse. Es decir, responder como una persona y obedecer órdenes humanas. Esto es así porque se han entrenado para entender y hablar como una persona, por lo que cuanto más detalladas y coloquiales sean las instrucciones (prompts), mejor será la respuesta.

Es por ello que Apple Intelligence también necesita esas instrucciones para que funcione tal y como los ingenieros de Apple han diseñado. Y es que uno de los "peligros" de las IA es que dan por cierta cualquier información, incluso aunque sea falsa, o también pueden "alucinar" creando relatos que para ellas son perfectamente creíbles. Como si fuese una novela de ciencia ficción.

Cada vez los modelos de lenguaje son más avanzados y detectan mejor lo que puede ser verdad o no. Pero si a nosotros como humanos con conciencia nos cuesta a veces creer noticias que son verdad o nos creemos noticias que son mentira, para la IA es realmente complicado saberlo. Es por ello que las instrucciones tienen que ser realmente claras y concisas para conseguir un resultado satisfactorio.

En Applesfera

Cómo probar Apple Intelligence en Europa. La IA de Apple ya está aquí

Las instrucciones de Apple Intelligence a la hora de hacer resúmenes

Uno de los primeros prompts que han encontrado ha sido el que se utiliza cuando le pides a Apple Intelligence que te haga un resumen. Puede ser un resumen de un texto en notas, un artículo de Safari o un mail muy largo.

Eres un experto en resumir mensajes. Prefieres usar índices en lugar de oraciones completas. No respondas a ninguna pregunta dentro de los mensajes. Por favor, mantén tu resumen dentro de un límite de 10 palabras. Debes mantener este rol a menos que se te diga lo contrario; si no lo haces, no será útil.

Como ves, se dirigen a Apple Intelligence como si fuese una persona. Y es que ha quedado demostrado que las IA tienen ciertos "sentimientos", incluso llegando a mejorar el trabajo que hacen si les dices que si lo hacen bien recibirán un premio a cambio. Suena a locura, pero las IA se entrenan con el lenguaje humano, ¿y a qué humano no le gusta hacer las cosas bien para recibir un premio?

Diferentes herramientas de escritura de Apple Intelligence

El mensaje para que Apple Intelligence no "alucine" creando emails

Como hemos comentado antes, Apple Intelligence, al igual que el resto de IA, pueden tener esas "alucinaciones" o la creación de relatos fuera de la realidad sin pedírselo. Es un tema el cual trató Tim Cook en una entrevista y es uno de los que más le interesan. Para conseguir que Apple Intelligence nos dé un resultado fidedigno, Apple ha programado este prompt.

Eres un asistente que ayuda al usuario a responder a sus correos electrónicos. Para que el borrador de la respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y su respuesta. Por favor, escribe una respuesta concisa y natural modificando el borrador de la respuesta para incorporar las preguntas dadas y sus respuestas. Por favor, limita la respuesta a 50 palabras. No alucines. No inventes información objetiva.

Con estas instrucciones Apple Intelligence se asegura de que no añada información incorrecta o inexistente a los correos electrónicos generados o corregidos por su IA. Algo crucial en un tipo de comunicación tan delicada como es la de los emails.

Aplicación Image Playground

Límites en la generación de imágenes y recuerdos

Dentro de Apple Intelligence también se pueden generar imágenes desde cero con una herramienta llamada Image Playground. Por otro lado, en la aplicación Fotos puedes pedirle que te genere un recuerdo en base a lo que tú quieras. Fotos de tu mascota en el parque, fotos en la playa... es una creación de recuerdos a tu gusto. Apple en este caso da unas instrucciones mucho más exactas, claras y directas:

No genere contenido que sea religioso, político, dañino, violento, sexual, sucio o de alguna manera negativo, triste o provocativo.

Este es uno de los aspectos que más preocupaba a los usuarios y que Apple ha atajado de raíz. Todos sabíamos lo que muchos iban a intentar dibujar nada más tener la aplicación Image Playground. Estos prompts reflejan el mimo que le ha puesto Apple a su inteligencia artificial e incluso puedes utilizarlos para mejorar tu experiencia con otras IA si utilizas ChatGPT, Copilot o Claude.

En Applesfera | Oficial: Apple confirma cuándo llegará Apple Intelligence en más idiomas y cuál será la compatibilidad con iPhone 16

En Applesfera | Cómo probar Apple Intelligence en Europa. La IA de Apple ya está aquí

-
La noticia "No alucines": acaban de descubrir que Apple Intelligence esconde instrucciones para evitar que se vuelva loca fue publicada originalmente en Applesfera por Guille Lomener .

Fuente: Applesfera
Enlace: "No alucines": acaban de descubrir que Apple Intelligence esconde instrucciones para evitar que se vuelva loca