Megmagyarázható ember és AI közötti interakció - tervezési perspektíva

Eredeti címe:

Explainable Human-AI Interaction - A Planning Perspective

Könyv tartalma:

A mesterséges intelligencia (AI) kezdettől fogva meglehetősen ambivalens viszonyban áll az emberrel - az ember kiegészítése és helyettesítése között ingadozik. Most, hogy a mesterséges intelligenciával kapcsolatos technológiák egyre nagyobb ütemben jelennek meg mindennapi életünkben, egyre nagyobb szükség van arra, hogy a mesterséges intelligencia rendszerek szinergikusan működjenek együtt az emberekkel.

Az ilyen szinergikus ember és az AI közötti interakció egyik kritikus követelménye, hogy az AI-rendszerek viselkedése megmagyarázható legyen az ember számára. Ahhoz, hogy ezt hatékonyan megtehessék, az AI-ügynököknek túl kell lépniük a világról alkotott saját modelljeik alapján történő tervezésen, és figyelembe kell venniük az ember mentális modelljét. A mesterséges intelligencia-ügynököknek legalább az ember feladat- és célmodelljének közelítésére, valamint a mesterséges intelligencia-ügynök feladat- és célmodelljének emberi modelljére van szükségük.

Az előbbiek irányítják az ágenst, hogy előre jelezze és kezelje a hurokban lévő emberek szükségleteit, vágyait és figyelmét, az utóbbiak pedig lehetővé teszik, hogy az ágens az ember számára értelmezhető módon cselekedjen (azáltal, hogy megfelel az ő mentális modelljének), és szükség esetén kész legyen személyre szabott magyarázatokkal szolgálni. A szerzők a laboratóriumukban végzett többéves kutatásaikból merítve tárgyalják, hogy egy mesterséges intelligencia-ügynök hogyan használhatja ezeket a mentális modelleket arra, hogy vagy megfeleljen az emberi elvárásoknak, vagy magyarázó kommunikáció révén megváltoztassa azokat.

Bár a könyv középpontjában a kooperatív forgatókönyvek állnak, kitér arra is, hogyan használhatók ugyanezek a mentális modellek a ködösítésre és a megtévesztésre. A könyv számos olyan valós alkalmazási rendszert is ismertet az együttműködő döntéshozatalhoz, amelyek az itt kifejlesztett keretrendszerre és technikákra épülnek.

Bár elsősorban a szerzők saját kutatásaiból táplálkozik ezeken a területeken, minden fejezet bőséges kapcsolatot biztosít a tágabb szakirodalom releváns kutatásaihoz. A könyvben tárgyalt technikai témák önállóak, és a mesterséges intelligencia alapismeretekkel rendelkező olvasók számára is hozzáférhetőek.