Veritone, Inc. se posiciona estratégicamente para abordar la creciente economía de agentes de IA, ofreciendo soluciones de orquestación y gobernanza a través de su plataforma aiWARE™. La compañía se centra en procesar datos no estructurados y en proporcionar activos listos para la IA, aspectos clave a medida que los sistemas de IA autónomos se implementan en entornos empresariales.
En este episodio de Professional Quotient, conversamos con Jasen Zubcevik sobre la importancia de construir y desplegar inteligencia artificial ética en un mundo que avanza rápidamente, enfatizando que la IA requiere supervisión humana, no solo capacidad técnica, especialmente en áreas críticas como la seguridad y el análisis de datos.
Un equipo de investigación de Microsoft ha descubierto una vulnerabilidad crítica en modelos de lenguaje de IA: protecciones de seguridad pueden desactivarse con un solo prompt y reentrenamiento mínimo. Este hallazgo obliga a repensar la seguridad en la implementación de IA.
Las nuevas reglas de tecnología de la información en India introducen cambios significativos para las plataformas de redes sociales, definiendo contenido generado sintéticamente y reduciendo los plazos para eliminar contenido ilegal. Además, permiten identificar usuarios que violan las normas, lo que podría afectar la anonimidad en casos de uso indebido de herramientas de inteligencia artificial.
Se requiere una cooperación más estrecha entre los reguladores y un aumento en la financiación para que el Reino Unido pueda abordar eficazmente los daños a los derechos humanos asociados con la proliferación de sistemas de inteligencia artificial (IA). La falta de recursos ha sido señalada como el mayor desafío para regular esta tecnología.
El Ministerio de Electrónica y Tecnología de la Información (MeitY) ha implementado un marco de cumplimiento más estricto para el contenido generado por inteligencia artificial en plataformas de redes sociales. Entre los cambios clave, se exige a los usuarios declarar claramente el contenido generado por IA y se reducen los plazos para la eliminación de contenido engañoso.
Las nuevas reglas de IA en India exigen que las plataformas eliminen contenido señalado en un plazo de tres horas, lo que genera temores de sobrecensura. Expertos advierten que los plazos tan breves podrían incentivar la eliminación excesiva de contenido y debilitar las salvaguardias del debido proceso.
El proyecto de ley CLEAR Act, presentado por los senadores Adam Schiff y John Curtis, establece requisitos de notificación obligatorios para empresas que desarrollan modelos de IA entrenados con obras protegidas por derechos de autor. Si se aprueba, los desarrolladores deberán presentar un resumen detallado de cada obra protegida incluida en sus datos de entrenamiento antes de su lanzamiento comercial.
A medida que los sistemas de inteligencia artificial se integran cada vez más en la vida cotidiana, los responsables políticos han intensificado sus esfuerzos para proteger a los niños de posibles daños digitales. Es fundamental no solo limitar el acceso de los menores a ciertas tecnologías, sino también asegurar que estas tecnologías se diseñen de manera que no impongan cargas injustas a los jóvenes usuarios.
Con la rápida regulación estatal de la inteligencia artificial, los CIO enfrentan sistemas que podrían volverse inutilizables o económicamente inviables. Estas leyes incrementan los costos de cumplimiento y afectan el retorno de inversión, dejando inversiones en riesgo.