Az OWASP összegyűjtötte a nagy nyelvi modelleken (LLM) alapuló technológiák alkalmazása során felmerülő leggyakoribb biztonsági problémákat, és arra is tesz ajánlásokat, hogy ezeket hogyan védhetjük ki.
Az Open Worldwide Application Security Project az egyik legfontosabb szereplő a webalkalmazás biztonság területén. A nonprofit projekt segédanyagai elsőszámú információforrásnak számítanak a biztonsági szakemberek számára.
Az alábbi Top 10-es lista mintegy 500 biztonsági szakértő munkáján alapszik, akik közül 130-an aktívan részt is vettek az útmutató összeállításában.
- LLM01: Prompt Injection
- LLM02: Insecure Output Handling
- LLM03: Training Data Poisoning
- LLM04: Model Denial of Service
- LLM05: Supply Chain Vulnerabilities
- LLM06: Sensitive Information Disclosure
- LLM07: Insecure Plugin Design
- LLM08: Excessive Agency
- LLM09: Overreliance
- LLM10: Model Theft
A biztonsági problémák leírását gyakori példák, lehetséges támadási forgatókönyvek, intézkedési javaslatok és az adott sérülékenység típusára vonatkozó publikációk jegyzéke egészíti ki.
Az összefoglalót minden olyan szervezet figyelmébe ajánljuk, amelyek a jövőben valamilyen LLM technológia bevezetését tervezik.
