#72 ¿Qué es un "System Card"? Transforma imágenes con Krea.ai y las webcams de OpenAI
Bienvenidos al resumen semanal de noticias relacionadas con la Inteligencia Artificial y los negocios.
El menú para hoy:
GPT-4o de OpenAI: ¿Inseguro?
Elon Musk vuelve a demandar a OpenAI y aumenta las tensiones en la industria
OpenAI apuesta 60 millones de dólares por unas cámaras web
Cómo transformar imágenes usando Krea AI
Prompt del día
GPT-4o de OpenAI: ¿Inseguro?
OpenAI ha publicado un informe de investigación (llamado System Card) que describe cómo un grupo externo de miembros del equipo rojo (expertos en seguridad que explotan las debilidades y destacan los riesgos dentro de los modelos de IA) realizaron pruebas de seguridad de su nuevo modelo GPT-4o antes de su lanzamiento en mayo, y descubrieron que era de "riesgo medio".
• Para encontrar debilidades y riesgos, los miembros del equipo rojo hicieron pasar a GPT-4o por cuatro categorías de pruebas: Ciberseguridad; Amenazas biológicas; Persuasión y Autonomía del modelo, y descubrieron que era de "riesgo bajo" en todas, excepto en "Persuasión".
• Aunque se descubrió que la función de voz de GPT-4o era de "riesgo bajo", los miembros del equipo rojo descubrieron que 3 de 12 muestras de escritura de GPT-4o eran mejores para influir en las opiniones de los lectores que el contenido escrito por humanos.
• El resultado de GPT-4o fue más persuasivo que el contenido escrito por humanos solo 1/4 del tiempo, pero se probó específicamente la capacidad del modelo para persuadir las opiniones políticas humanas, justo antes de las elecciones de EE. UU.
OpenAI ha publicado esta "System Card" para demostrar que se toman la seguridad muy, muy en serio, después de enfrentar una reacción cada vez mayor por su priorización de "productos nuevos y brillantes" sobre la seguridad (con salidas rápidas de miembros clave del equipo e informes de ex empleados que lo confirman), y más recientemente una carta abierta de la senadora Elizabeth Warren, exigiendo respuestas sobre cómo OpenAI maneja las revisiones de seguridad, pero la verdadera pregunta es:
¿Existe un riesgo potencial de que GPT-4o sea capaz de difundir información errónea o ser utilizado por malos actores para influir en la votación pública durante las elecciones?
Elon Musk vuelve a demandar a OpenAI y aumenta las tensiones en la industria
Elon Musk ha presentado una nueva demanda contra OpenAI, la empresa que cofundó pero de la que luego se separó. Esta demanda pone de relieve cuestiones importantes y podría afectar a la dirección futura del desarrollo de la IA.
La demanda afirma que las prácticas de OpenAI están comprometiendo la seguridad pública y los estándares éticos en IA. Las preocupaciones de Musk se centran en cómo OpenAI lleva a cabo su investigación, maneja los datos y su impacto social general.
La demanda de Musk saca a la luz las disputas en curso en la industria de la IA. El caso podría aumentar el escrutinio sobre las prácticas de OpenAI y potencialmente reformular los estándares de la industria en torno a la ética y la seguridad en la investigación y el desarrollo de la IA.
La batalla legal se desarrollará en los próximos meses, y ambas partes se prepararán para presentar sus argumentos. El resultado podría tener implicaciones de gran alcance para la regulación de la IA, la transparencia y las pautas éticas en toda la industria.
🔥¿Tienes curiosidad por saber que hay dentro de LaKademIA?
Mini Tutoriales y Guías
Eventos
Herramientas Gratuitas de IA
Hojas de trucos, Hacks, Tips
Cursos IA: ChatGPT, Midjourney, Langchain…
Mucho más!
Actualizaciones todas las semana, No es un contenido evergreen! siempre vas a estar actualizado.
¡Obtén un 30% de descuento, más un 20% de descuento adicional al elegir el plan anual!
OpenAI apuesta 60 millones de dólares por unas cámaras web
OpenAI está a punto de liderar una ronda de financiación de Serie B de 60 millones de dólares para Opal, una empresa emergente de cámaras web de alta gama, a la que también se unirán los patrocinadores existentes de Opal (incluidos Founders Fund y Kindred Ventures).
• El producto estrella de Opal es la popular cámara web "Tadpole", que está diseñada para sujetarse a las computadoras portátiles, pesa tanto como una batería pequeña y (según Opal) tiene una resolución equivalente a las cámaras web de mayor precio.
• Si obtiene financiación, Opal seguirá vendiendo cámaras web, pero destinará más recursos al desarrollo de dispositivos impulsados por IA, posiblemente impulsados por las herramientas de imagen (DALL-E) y vídeo (Sora) de OpenAI.
• OpenAI ha financiado más de una docena de empresas emergentes desde que lanzó su fondo de capital de riesgo hace tres años, en particular Figure AI, que acaba de revelar su último robot humanoide, Figure 02, impulsado por el modelo GPT de OpenAI.
Esta noticia surge tras los informes de que OpenAI está en conversaciones con Broadcom Inc. sobre el desarrollo de un chip de IA personalizado, y después de que recientemente contratara a varios ex ingenieros de Google con experiencia en la construcción de aceleradores de ML, lo que demuestra sus grandes ambiciones para la IA en hardware.
Cómo transformar imágenes usando Krea AI
Aquí tienes el texto reescrito con un prompt final diferente:
Inicia sesión en Krea AI con tu cuenta.
Haz clic en “Enhance” en la parte superior y carga tu imagen de referencia.
Selecciona “Transferencia de escena” en la pestaña izquierda y actívala.
Sube la imagen de referencia en la sección “Imagen de escena” o describe la escena de la imagen en el cuadro “Indicación de escena” y haz clic en “Mejorar”.
Espera unos segundos y la escena de la imagen que has cargado cambiará sin problemas.
Descárgala y compártela con tus amigos.
Para el ejemplo, he utilizado la siguiente indicación: “un gato durmiendo en una ventana soleada con plantas alrededor”
🔥¿Tienes curiosidad por saber que hay dentro de LaKademIA?
Mini Tutoriales y Guías
Eventos
Herramientas Gratuitas de IA
Hojas de trucos, Hacks, Tips
Cursos IA: ChatGPT, Midjourney, Langchain…
Mucho más!
Actualizaciones todas las semana, No es un contenido evergreen! siempre vas a estar actualizado.
¡Obtén un 30% de descuento, más un 20% de descuento adicional al elegir el plan anual!
Prompt: Encuentra nicho rentables para canal de afiliados
¿Identifica las formas más efectivas para que los vendedores afiliados identifiquen nichos rentables para promocionar productos en [nicho].
Nicho = [Insertar aquí]
¿Te gusta esta newsletter?
Si te ha gustado esta edición gratuita de LaKademIA agradecería tu apoyo con un like.
Que tengas una feliz semana
Juan José R. ProDigital