Gartner Security & Risk Management Summit 2023 National Harbor: Puntos destacados del día 3

"Ya hay muchos modelos de IA que se han puesto en funcionamiento y pueden verse comprometidos y atacados. Una encuesta de Gartner de 2021 encontró que el 73% de las organizaciones ya tenían cientos o miles de modelos de IA implementados".

"Los compromisos y los ataques abarcan todas las etapas del ciclo de vida de la IA, incluido el envenenamiento de datos, las preocupaciones sobre la privacidad, la manipulación de los resultados del modelo y el uso indebido, el compromiso o el robo de datos o modelos".

"Hay dos percepciones erróneas comunes sobre las amenazas a la seguridad de la IA: la mayoría de los ataques de IA solo ocurren por parte de personas externas, por lo que no tenemos que mirar hacia adentro; y la mayoría de los ataques de IA son complicados, así que no nos preocupemos por las cosas pequeñas".

"Los CISO y los equipos de IA perciben el riesgo proveniente de la IA de manera diferente. Los equipos de IA creen que es más probable que se materialice el riesgo de la IA y están más preocupados por el riesgo de la IA en general. No todos los días alguien está más preocupado por el riesgo de la información que el equipo de seguridad".

"AI TRiSM ayuda a garantizar la gobernanza, la confiabilidad, la equidad, la confiabilidad, la privacidad, la seguridad y el cumplimiento de las soluciones de IA, convirtiendo los riesgos no administrados en riesgos administrados".

"Para 2026, las organizaciones que implementen la transparencia, la confianza y la seguridad de la IA verán que sus modelos de IA logran una mejora del 50 % en los resultados en términos de adopción, objetivos comerciales y aceptación del usuario".

Obtenga más información sobre AI TRiSM en las preguntas y respuestas de Gartner "Por qué la confianza y la seguridad son esenciales para el futuro de la IA generativa".