← Fogalomtár
Fogalom
Jailbreaking
Kísérlet arra, hogy egy AI modell biztonsági korlátait speciálisan megfogalmazott promptokkal megkerüljük, és olyat csináltassunk vele, amire alaphelyzetben nem hajlandó.
Analógia
Mint amikor egy cég ügyfélszolgálati robotját megpróbálják rávenni, hogy saját termékeit rossz fényben tüntesse fel — nem a szoftver feltörésével, hanem rafinált kérdezési technikával.
Miért fontos?
Üzleti szempontból két okból releváns: a szervezet AI eszközei elleni lehetséges támadásként, illetve mert a korlátok megkerüléséhez hasonló technikák néha legitim use-case-eknél is előkerülnek. A guardrailok és a governance egyik leggyakrabban emlegetett kihívása.