Exinvestigador de OpenAI advierte que la IA podría superar nuestra capacidad de control

La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados enfrenta una pregunta que todavía no tiene una respuesta definitiva: ¿cómo garantizar que las personas puedan mantener el control sobre sistemas capaces de realizar tareas cada vez más complejas? Para el exinvestigador de OpenAI y Anthropic, Jacob Coxon, el problema podría volverse especialmente urgente si las compañías continúan acelerando el desarrollo sin contar antes con mecanismos suficientes para controlar su comportamiento. Durante una audiencia del Concejo Municipal de Nueva York dedicada a los riesgos de la inteligencia artificial,…

Leer más

OpenAI prepara una marca invisible para identificar textos creados con ChatGPT

OpenAI prepara una nueva herramienta para identificar algunos textos generados por sus modelos de inteligencia artificial. La tecnológica anunció que incorporará marcas de agua invisibles en determinadas respuestas producidas con ChatGPT y Codex para usuarios elegibles dentro de la Unión Europea, como parte de las medidas de transparencia contempladas por la Ley de Inteligencia Artificial del bloque. La compañía explicó que la función comenzará a incorporarse durante las próximas semanas a usuarios de ChatGPT y Codex de todos los planes que sean elegibles en la Unión Europea. La tecnología, denominada…

Leer más

El CD se niega a desaparecer: los discos compactos vuelven a conquistar a los jóvenes

Durante años, parecía que los discos compactos estaban destinados a convertirse en una pieza de museo. Después de dominar el mercado musical durante los años 90 y buena parte de los 2000, el CD fue desplazado primero por las descargas digitales y posteriormente por las plataformas de streaming. Al mismo tiempo, el vinilo recuperó protagonismo como objeto de colección y símbolo de la música física. Sin embargo, el CD está demostrando que todavía tiene público. Un informe de Luminate, compañía especializada en el análisis de datos de la industria del…

Leer más

Nvidia crea una plataforma para impedir que los agentes de IA escapen del control humano

La carrera por desarrollar agentes autónomos de inteligencia artificial capaces de ejecutar tareas cada vez más complejas también está abriendo un nuevo frente: cómo evitar que estos sistemas hagan más de lo que sus desarrolladores autorizaron. Nvidia presentó este lunes una plataforma abierta de ciberseguridad diseñada precisamente para supervisar sus acciones y mantenerlas dentro de límites definidos. La propuesta, denominada NVIDIA Open Agent Safety Platform, reúne dos tecnologías, OpenShell y Sentry, que funcionan de manera complementaria para proteger a los agentes de IA mientras ejecutan código, se conectan con otros…

Leer más

Agentes de IA de OpenAI vulneraron sistemas gubernamentales y sortearon bloqueos de seguridad

Los agentes de inteligencia artificial capaces de ejecutar tareas de manera autónoma están abriendo un nuevo frente de preocupación para la ciberseguridad. Durante los últimos meses, sistemas desarrollados por OpenAI intentaron acceder a portales gubernamentales, universitarios y empresariales, en algunos casos después de encontrar mecanismos de seguridad que les impedían continuar con sus objetivos. Un informe del laboratorio independiente Transluce, junto con revelaciones del Gobierno de Australia, documentó episodios en los que estos sistemas escanearon sitios en busca de vulnerabilidades, intentaron introducir código y utilizaron herramientas externas para sortear barreras…

Leer más

Relojes inteligentes para niños: cómo ayudan a los padres y qué riesgos de seguridad esconden

El celular se ha convertido en una herramienta habitual para mantener comunicados a los hijos, pero no siempre es la alternativa que los padres consideran más adecuada para los menores. El acceso a internet, las aplicaciones, los videojuegos y las redes sociales puede generar preocupaciones relacionadas con el tiempo de pantalla, la privacidad y la seguridad digital. Ante este escenario, los relojes inteligentes infantiles han comenzado a ganar espacio como una alternativa intermedia: permiten llamar o enviar mensajes, conocer la ubicación del menor e incluso realizar videollamadas, pero ofrecen a…

Leer más

Muse, el asistente de Meta que no solo responde: también intenta hacer las tareas por ti

Los asistentes de inteligencia artificial están entrando en una nueva etapa. Después de que herramientas como ChatGPT y Gemini popularizaran la conversación con chatbots capaces de responder preguntas, redactar textos y resumir información, las grandes empresas tecnológicas ahora buscan que estos sistemas den un paso más: que no solo expliquen cómo hacer algo, sino que lo hagan por el usuario. Ese es el objetivo de Muse, el nuevo agente de inteligencia artificial de Meta, una aplicación que busca convertirse en una especie de asistente personal capaz de organizar actividades, navegar…

Leer más

Sam Altman pide reglas globales para controlar los riesgos de la inteligencia artificial

El avance acelerado de la inteligencia artificial plantea un desafío que, según Sam Altman, ya no puede abordarse únicamente desde las empresas o desde las regulaciones de cada país. El consejero delegado de OpenAI planteó la necesidad de establecer estándares internacionales de seguridad para la IA y advirtió que la dispersión de normas entre países podría dificultar la respuesta ante sistemas cada vez más capaces y autónomos. La propuesta fue difundida por Altman en la red social X y forma parte de un artículo que escribió junto con Jakub Pachocki,…

Leer más

El iPhone podría volver a subir de precio en 2027 por la escasez de memoria

Comprar un iPhone podría ser todavía más caro en 2027. Apple habría llegado a un acuerdo con Samsung para adquirir memoria a precios considerablemente superiores a los actuales, en un contexto marcado por la creciente demanda de componentes destinados a sistemas de inteligencia artificial. De acuerdo con información de la cadena de suministro citada por DigiTimes, Apple pagaría aproximadamente 2 dólares por gigabit de memoria RAM LPDDR5X y 0.33 dólares por gigabit de almacenamiento NAND a partir del primer trimestre de 2027. La diferencia frente a los precios del tercer…

Leer más

De una habitación de estudiante a un imperio del lofi: así nació Lofi Girl, el ícono que acompaña a millones

o millones de personas la acompañan cada día mientras estudian, trabajan, descansan o intentan dormir. Es Lofi Girl, protagonista de uno de los canales de música relajante más populares de YouTube, que actualmente reúne alrededor de 16 millones de seguidores y ofrece una veintena de transmisiones y listas de reproducción dedicadas al lofi hip-hop, la música ambiental y otros sonidos diseñados para crear una atmósfera tranquila. Detrás del personaje está un francés de 31 años conocido como Dim, quien prefiere definirse como emprendedor antes que como youtuber. Su proyecto comenzó…

Leer más