Desarrollo del sector de la IA y dinámica normativa

El fundador de Solayer revela los riesgos de seguridad de los grandes modelos de lenguaje y señala que los agentes LLM que dependen de un enrutador de API de terceros tienen riesgo de sufrir ataques de código malicioso. Las pruebas muestran que varios enrutadores presentan vulnerabilidades de seguridad e incluso pueden filtrar credenciales sensibles. Además, la investigación muestra métodos de ataque viables y medidas de defensa.

Noticias de Gate: 10 de abril, según los datos de Gate Markets, al momento de la publicación TAO (Bittensor) cotiza a 269.80 USD. En las últimas 24 horas ha caído 16.28%, tocando un máximo de 341.10 USD y un mínimo de 248.60 USD. El volumen de operaciones en 24 horas fue de 14.71 millones de USD. La capitalización de mercado actual es de aproximadamente 2.59B de USD. Bittensor es un protocolo de código abierto que respalda una red de aprendizaje automático descentralizada basada en blockchain. Los modelos de aprendizaje automático se entrenan de forma colaborativa y reciben recompensas en TAO en función del valor de la información que aportan al colectivo. TAO también permite el acceso externo, para que los usuarios puedan extraer información de la red y ajustar la actividad de la red según sus propias necesidades. --- Noticias importantes recientes sobre TAO: 1️⃣ **

Google ha lanzado la función «Notebooks» en la app de Gemini, que permite a los usuarios gestionar de forma centralizada el historial de chats y los archivos, y sincronizarla con NotebookLM para mejorar la eficiencia del flujo de trabajo. Actualmente solo se ofrece a los usuarios suscritos, mientras que los usuarios gratuitos deberán esperar. Esta función facilita a los usuarios organizar y aprovechar mejor los datos, lo que apunta a que en el futuro habrá más actualizaciones.

xAI, propiedad de Musk, presenta una demanda en el estado de Colorado para impedir que entre en vigor la ley SB 24-205, que busca evitar que los sistemas de IA produzcan discriminación algorítmica. xAI acusa a la ley de vulnerar la libertad de expresión, solicita que ajuste la salida de información según una postura política específica y señala que dentro de la propia ley existen contradicciones lógicas. Se trata de la segunda acción legal de xAI sobre temas de regulación de la IA y podría influir en el desarrollo del panorama de la regulación de la IA en todo Estados Unidos.

El cofundador de Bittensor, Jacob Steeves, respondió a la salida de Covenant AI de la red, proponiendo reiniciar el mecanismo de gobernanza de la subred e introducir elecciones mediante votación comunitaria para elegir al equipo. Él cree que es una oportunidad para redefinir la forma de la subred y criticó las decisiones del fundador de Covenant AI.

Alibaba confirma el lanzamiento de su propio modelo generativo de video HappyHorse-1.0, desarrollado por el Departamento de Innovación en IA del grupo Taotian. HappyHorse-1.0 obtuvo un desempeño sobresaliente en evaluaciones de terceros; aún no se ha publicado como open source y cumple con la estrategia reciente de Alibaba de mantener cerradas sus soluciones. El lanzamiento de este modelo busca hacer frente al desempeño en el mercado de los competidores y fortalecer la competitividad de Alibaba en el mercado de MaaS.

Anthropic el 9 de abril anunció que Claude Cowork está disponible oficialmente para todos los planes de pago, y añadió funciones de administración como control de acceso por roles, límites de gasto por grupos y paneles de análisis para los usuarios de la versión empresarial. Este producto se puede usar en las aplicaciones de escritorio de macOS y Windows. Centrándose en las necesidades empresariales, Anthropic continúa ampliando su línea de productos de IA, desde tecnologías para desarrolladores hasta aplicaciones para equipos y a nivel empresarial.

Andrej Karpathy señaló que hay una grieta en la comprensión pública de las capacidades de la IA, dividida en dos grupos: los usuarios comunes que usan ChatGPT en su versión gratuita y los profesionales técnicos que usan modelos de vanguardia de pago. Considera que ambos están discutiendo productos completamente distintos y destaca que el avance en el ámbito tecnológico es notable debido a las funciones de recompensa verificables y a la fuerza impulsora del valor comercial.

Anthropic lanzó el «Advisor strategy» el 9 de abril, utilizando Opus como consultor junto con Sonnet o Haiku para ejecutarlos. Esta estrategia reduce costos y mejora el rendimiento mediante la API de Messages. La estrategia separa el razonamiento de la ejecución, de modo que quienes ejecutan puedan consultar a Opus cuando encuentren obstáculos, logrando un rendimiento intelectual más alto en una sola solicitud de API. Las evaluaciones muestran que Sonnet junto con Opus mejora el rendimiento en un 2.7% y reduce el costo de las tareas en un 11.9%. Esta estrategia ofrece a los desarrolladores una opción más favorable de costo-eficiencia y ha recibido una gran acogida por parte de la comunidad.

Noticias de Gate News, el 10 de abril, el fundador de Uniswap, Hayden Adams, publicó hoy en una plataforma social preguntando si hay recursos relacionados con Anthropic (empresa de tecnología de IA) para coordinar, y expresó su deseo de probar Mythos en Uniswap.

La reciente demanda de xAI, de Musk, contra las regulaciones de IA del estado de Colorado alega que se vulnera la libertad de expresión. Esta normativa tiene como objetivo evitar que los sistemas de IA presenten discriminación algorítmica en diversos ámbitos; sin embargo, el propio chatbot de xAI, Grok, ha generado en varias ocasiones declaraciones racistas, lo que muestra contradicciones en su lógica. Este caso podría convertirse en un precedente importante para la regulación de la IA en Estados Unidos.

Anthropic lanza Claude Managed Agents, una plataforma de desarrollo de agentes de IA totalmente gestionada que simplifica los procesos de automatización empresarial y afirma que puede acelerar la producción de productos diez veces. La plataforma cuenta con infraestructura de seguridad, admite la ejecución durante largos períodos y la coordinación entre múltiples agentes, para que los desarrolladores se enfoquen más en el negocio principal. Notion ya ha aplicado este servicio de manera temprana, mejorando la eficiencia del trabajo y mostrando que la competencia en el mercado de la IA empresarial se está intensificando.

Noticia del Portal: Gate News. 10 de abril, según varias personas informadas, el fundador de la empresa de grandes modelos de IA DeepSeek, Liang Wenfeng, reveló recientemente en comunicaciones internas que el nuevo modelo insignia de DeepSeek, DeepSeek V4, se publicará oficialmente a finales de abril.

El sistema de memoria de IA MemPalace, desarrollado con la participación de Mirajova Viki, ha generado controversia después de que se pusiera en duda que se hizo trampa debido a los resultados de las pruebas. Los resultados de las pruebas reales muestran que la eficiencia fue exagerada y que los errores son frecuentes. El equipo de desarrollo ha reconocido el problema y está trabajando en la corrección, pero todavía hay varios datos que no se han actualizado, lo que ha provocado la inconformidad de la comunidad.

Covenant AI anunció el 10 de abril que se retiraba de la red de Bittensor, acusando al principal Jacob Steeves de traicionar el compromiso con la descentralización y enumerando múltiples acciones de represalia. Covenant AI destacó que la aparente gobernanza descentralizada de Bittensor en realidad está controlada por una sola persona, creando un “teatro de la descentralización”. El proyecto de LLM descentralizado de su equipo, Covenant-72B, tiene una influencia importante en la industria; este retiro se considera una elección proactiva y no un fracaso.

La investigación muestra que varios prestigiosos puntos de referencia de IA existentes tienen vulnerabilidades de seguridad que pueden explotarse de manera sistemática para obtener puntuaciones altas. El equipo de investigación reveló fallas estructurales y desarrolló la herramienta de escaneo WEASEL para identificar y corregir estas vulnerabilidades, señalando que un diseño de evaluación inadecuado puede llevar a resultados distorsionados y afectar la evaluación real de las capacidades de la IA.