← Fogalomtár
Fogalom
Alignment (igazítás)
Annak biztosítása, hogy egy AI rendszer valóban azokat a célokat szolgálja, amelyeket a fejlesztők és felhasználók szánnak neki — ne optimalizáljon félrevezetően, ne tegyen kárt.
Analógia
Mint amikor egy alkalmazottat nem a kívánt végeredményre, hanem a közbülső mutatóra mérsz: a metrikát javítani fogja, de nem feltétlenül azt, amit tényleg akarsz.
Miért fontos?
Az alignment probléma nem science fiction: kisebb formában minden üzleti AI-rendszer tervezésekor felmerül. Ha az AI egy metrikát optimalizál (pl. kattintás), de a valódi célt (pl. ügyfél-elégedettség) figyelmen kívül hagyja, az alignment hibája áll fenn. A governance-gondolkodás alapfogalma.