Mira Murati de OpenAI y el futuro de la AGI y la seguridad de la IA

¡Hola! ¿Has oído hablar de OpenAI y su impresionante tecnología? Mira Murati, la Directora de Tecnología, lidera el esfuerzo de construir una inteligencia general artificial (AGI) que se alinee con las intenciones humanas para beneficiar a todos. Si bien han logrado avances con modelos como ChatGPT y DALL-E, todavía están lejos de tener un sistema AGI seguro y confiable. Es por eso que constantemente piensan en medidas de seguridad e intervenciones en cada etapa del proceso. Y creen que estos sistemas deben ser regulados, con OpenAI trabajando con gobiernos y reguladores para acordar estándares de seguridad. Si bien una carta que pedía una pausa en la construcción de modelos de IA más potentes que GPT-4 recibió mucha atención, Murati cree que los mecanismos de seguridad y la coordinación entre los actores son difíciles pero necesarios. OpenAI ha recorrido un largo camino desde sus días sin fines de lucro, con una estructura de “ganancias limitadas” que todavía sirve a su misión. Y si bien no anticiparon el nivel de emoción alrededor de ChatGPT, están utilizando los comentarios para mejorar el modelo y hacerlo más alineado. ¿Qué emocionante, verdad?

OpenAI es un laboratorio de investigación sin fines de lucro convertido en una empresa con sede en San Francisco. El objetivo principal de OpenAI es desarrollar inteligencia artificial segura y beneficiosa para todos. Mira Murati es la actual Directora de Tecnología de OpenAI y lidera los equipos de investigación, productos y seguridad de la empresa. Además, ha liderado el desarrollo y lanzamiento de sus modelos de IA, incluidos ChatGPT, DALL-E y el más reciente, GPT-4.

Descripción de terminos:

• OpenAI: Una empresa de inteligencia artificial con sede en San Francisco que se enfoca en desarrollar IA segura y beneficiosa para todos.
• Inteligencia General Artificial (AGI): El objetivo de la AGI es desarrollar una IA que tenga la capacidad de realizar tareas de manera autónoma y producir resultados económicos significativos en diferentes dominios, con capacidades similares a las humanas.
• ChatGPT: Un modelo de lenguaje natural desarrollado por OpenAI que utiliza la tecnología GPT (Transformador de Preentrenamiento de Lenguaje) para generar texto conversacional.
• DALL-E: Un modelo de IA desarrollado por OpenAI que puede crear imágenes únicas a partir de descripciones de texto.
• GPT-4: Un modelo de lenguaje natural de IA desarrollado por OpenAI que es más capaz que su predecesor, GPT-3, y se enfoca en la capacidad de razonamiento.
• IA: Inteligencia Artificial, una rama de la informática que se enfoca en el desarrollo de sistemas que pueden realizar tareas que normalmente requieren inteligencia humana.
• API: Interfaz de programación de aplicaciones, un conjunto de herramientas y protocolos que se utilizan para crear aplicaciones de software.
• Investigación con retroalimentación humana: Un método de entrenamiento de modelos de IA que involucra la retroalimentación de personas para mejorar la alineación del modelo con las intenciones humanas.

Fuente: https://apnews.com/article/openai-cto-mira-murati-chatgpt-gpt4-dalle-0e701dd406b4a1a2d625e779de0c5164