Fontos megérteni a mesterséges intelligencia korlátait, kockázatait és sebezhetőségeit. A NIST által kidolgozott Mesterséges Intelligencia Kockázatkezelési Keretrendszer (Artificial Intelligence Risk Management Framework, AI RMF) olyan iránymutatások és bevált gyakorlatok gyűjteménye, amelyek célja, hogy segítse a szervezeteket a mesterséges intelligencia technológiák bevezetésével és használatával kapcsolatos kockázatok azonosításában, értékelésében és kezelésében.
A keretrendszer hat elemből áll:
- Érvényesség és megbízhatóság – Az AI téves információkat is szolgáltathat, amit a GenAI-ban “hallucinációnak” is neveznek. Fontos, hogy a vállalatok validálni tudják, hogy az általuk alkalmazott mesterséges intelligencia pontos-, és megbízható-e.
- Biztonságosság – Annak biztosítása, hogy az információkat ne osszák meg más felhasználókkal, mint a hírhedt Samsung ügyben.
- Ellenállóság és biztonság – A szervezeteknek biztosítaniuk kell, hogy az AI rendszer védett és biztonságos legyen a támadásokkal szemben és sikeresen meg tudja hiúsítani a kihasználására vagy a támadások segítésére irányuló kísérleteket.
- Átláthatóság – Fontos, szempont az AI működésének a megértése, hisz nincs benne semmiféle fekete mágia.
- Adatvédelem – Biztosítani kell, hogy a kért információk védettek és anonimizáltak legyenek a felhasználás során.
- Tisztességesség – A káros előítéletek kezelése (például az AI arcfelismerésben gyakran előfordul elfogultság, a világos bőrű férfiakat pontosabban azonosítják, mint a nőket és a sötétebb bőrszínűeket). Ha például a mesterséges intelligenciát a bűnüldözésben használják, ennek súlyos következményei lehetnek.
A mesterséges intelligenciával kapcsolatos kockázatok kezeléséhez további források a MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), az OWASP Top 10 for ML és a Google Secure AI Framework (SAIF).
A közeljövőben gyakori lesz, hogy a gyártók generatív AI képességeket kínálnak. Az alábbiakban felsoroljuk azokat a kérdéseket, amelyeket érdemes feltenni a megalapozott választáshoz.
- Mi és miért?
Milyen képességei vannak az AI-nak és miért van rájuk szükség? A GenAI például nagyon jól tud e-maileket írni, így a GenAI-nak van értelme egy e-mail rendszerben. Mi a felhasználási terület a gyártó számára?
- Tanító adatok
A tanító adatokat megfelelően és pontosan kell kezelni, különben torzítást okozhatnak. Fontos rákérdezni a tanító adatok típusaira, a tisztításukra, a kezelésükre stb.
- Volt-e beépített rugalmasság?
A szállító figyelembe vette-e, hogy a kiberbűnözők magát a rendszert támadhatják? Vezetett-e be biztonsági ellenőrzéseket, és ha igen, milyeneket?
- Valódi megtérülés
Mekkora a megtérülés, és indokolja-e a megtérülés az AI/ML bevezetését (vagy csak a hype miatt és értékesítési céllal kerültek bele)?
- Valóban megoldja-e a problémát?
A legfontosabb kérdés – megoldja-e az AI a problémát, és jól oldja-e meg? Semmi értelme prémiumot fizetni és pluszköltségeket vállalni, ha az AI nem oldja meg a problémát és nem úgy működik, ahogyan kellene.
