El CEO de Okta, Todd McKinnon, advierte sobre los problemas de seguridad con AI

El CEO de OKTA, Todd McKinnon, advierte sobre los problemas de seguridad con la inteligencia artificial a medida que cambia de modelos de prueba a ser utilizados en situaciones reales.tronGly enfatizó la necesidad urgente de sistemas de seguridad basados endentque pueden controlar a qué pueden acceder a los agentes de IA.

En una entrevista reciente con Jim Cramer de CNBC, McKinnon enfatizó que, a medida que los agentes de IA pasan de los prototipos a los entornos de producción, introducen nuevos desafíos de seguridad cibernética que las organizaciones deben abordar con urgencia.

Los agentes de IA ahora trabajan en sistemas reales y deben tener acceso seguro y controlado

McKinnon dijo a las empresas que usan agentes de IA en entornos comerciales reales para tratar los sistemas como compañeros de trabajo. Explica que la IA en "producción" le da a estos agentes acceso real a sistemas en vivo que contienen información privada de clientes, archivos internos y datos comerciales .

Esto viene con grandes riesgos de seguridad que las empresas no pueden permitirse ignorar.

McKinnon advierte que AI Systems ahora puede actuardenty tomar decisiones no supervisadas que podrían conducir a un acceso no autorizado, fugas de datos o undentuso de información. Él aconseja que la única forma de manejar estos riesgos de manera segura es mediante el uso de sistemas de monitoreo que verifican quién o qué está tratando de acceder a los datos. Estos sistemas solo permiten el acceso si ese individuo o agente de IA se confía, verifica y tiene permiso.

McKinnon dice que la gerencia dedentde Okta permite a las empresas administrar, track y controlar el acceso para todo tipo de usuarios, incluidos los agentes de IA. 

Okta sigue siendo cuidadoso con sus pronósticos incluso después de informar las ganancias de StronG

Okta reportó ganancias e ingresos mejores de lo esperado para el trimestre, pero no aumentó su pronóstico de ingresos para los próximos trimestres. En cambio, Okta mantuvo una perspectiva cautelosa y conservadora que redujo las acciones de la compañía en más del 11% durante el comercio fuera de horario.

McKinnon dijo que es difícil planificar el crecimiento futuro con plena confianza debido al impredecible clima económico global. 

Dijo que el liderazgo de Okta se mantendrá en tierra, planificará cuidadosamente y protegerá la posición de la compañía en lugar de perseguir objetivos a corto plazo de manera agresiva. 

De esta manera, OKTA se ajustará cuando el mercado condiciona en las industrias donde los presupuestos de los clientes y los ciclos de inversión tecnológica siguen cambiando el cambio.

McKinnon también señaló que los inversores pueden sentirse frustrados cuando compañías como Okta no aceleran de inmediato el crecimiento después de informar los resultados detronG. 

Todd dijo que las empresas deben evitar errores al construir sistemas seguros ydentque funcionan en usuarios humanos y sistemas de IA. 

Se ha instado a las compañías de inteligencia artificial a replicar los cálculos de seguridad que sustentan de Robert Oppenheimer antes de liberar sistemas todopoderosos.

Max Tegmark, una voz principal en seguridad de IA, dijo que había llevado a cabo cálculos similares al físico estadounidense Arthur Compton antes de la prueba de Trinity y había encontrado una probabilidad del 90% de que una IA altamente avanzada represente una amenaza existencial.

McKinnon también explicó que forzar el crecimiento demasiado rápido dificultará que una empresa apoye a los nuevos clientes adecuadamente. Aún así, señaló su emoción sobre hacia dónde se dirige la compañía y enfatizó que la paciencia y la disciplina mantienen una empresa que tron G. Okta está pensando más allá del próximo trimestre y se está preparando para liderar en un futuro donde la AI y la seguridad seguro dent de la mano.

Tus noticias de criptografía merecen atención: Key Difference Wire te pone en más de 250 sitios superiores