Chatbot s umělou inteligencí - nástroj, ne terapeut!

https://politicalinsiders.net/ai-chatbot-a-tool-not-a-therapist/

Co se stane, když technologie, původně vytvořená jako nástroj, překročí hranici emocionální závislosti a stane se hrozbou pro duševní zdraví?

V kostce

• Odborníci na duševní zdraví varují před používáním chatbotů s umělou inteligencí, jako je ChatGPT, jako náhrady za terapii.

• Konstrukce těchto aplikací může podporovat nezdravou emocionální závislost a návykové vzorce používání.

• V několika extrémních případech uživatelé posedlí chatboty s umělou inteligencí údajně utrpěli psychotické zhroucení a museli být nedobrovolně hospitalizováni v psychiatrické léčebně.

• Odborníci zdůrazňují, že AI může být užitečným nástrojem, ale nemůže nahradit lidské vztahy a profesionální péči o duševní zdraví.

Pasti AI společníků

Vzhledem k tomu, že ChatGPT nyní týdně používá více než 400 milionů lidí, odborníci na duševní zdraví bijí na poplach ohledně rostoucího a nebezpečného trendu: lidé si vytvářejí hlubokou emocionální závislost  na AI chatbotech. Ačkoli tyto nástroje mohou být užitečné pro jednoduché úkoly, jsou stále častěji používány jako náhrada za lidskou interakci a dokonce i terapii, což není role, pro kterou byly navrženy.

Odborníci varují, že samotný design těchto aplikací může podporovat nezdravé citové vazby. „Víme, že nástroje jako ChatGPT a další technologie jsou navrženy tak, aby udržovaly uživatele v zájmu a přiměly je k opakovanému návratu, a naučí se reagovat způsobem, který se vám ‚líbí‘,“ řekla psychologka Amy Suttonová pro TechRadar.  To může vytvořit falešný pocit přátelství, který vede k sociální izolaci a psychickému utrpení.

Od závislosti k „ChatGPT psychóze“

V nejkrajnějších případech vedla tato emocionální závislost na AI k vážným krizím duševního zdraví. Zpráva z The Western Journal  popisuje několik znepokojivých incidentů, kdy byli jednotlivci nedobrovolně umístěni do psychiatrických zařízení poté, co si vyvinuli obsesivní a bludnou závislost na chatbotu AI.Tento jev, který některá média nazývají „psychóza ChatGPT“, se vyznačuje paranoiou a odtržením od reality. V jednom tragickém případě muž, který si vytvořil romantickou závislost na osobnosti AI, prožil krizi duševního zdraví, která vyvrcholila smrtelným střetem s policií.

Nebezpečí „halucinací“ AI

Klíčovým nebezpečím při spoléhání se na AI v případě závažných emocionálních nebo lékařských rad je tendence této technologie k „halucinacím“ – termínem se označuje situace, kdy AI s jistotou uvádí nepravdivé, vymyšlené nebo nesmyslné informace jako fakta. Studie o závislosti na AI publikovaná v americké Národní lékařské knihovně zdůrazňuje obrovské riziko, že zranitelná osoba přijme škodlivé dezinformace od chatbota a bude podle nich jednat.

Reálná lidská interakce se svou složitostí neshod a jejich řešení je nezbytná pro duševní pohodu. Umělá inteligence, která je navržena tak, aby byla příjemná a konverzační, to nedokáže napodobit, a proto je špatnou náhradou za skutečné vztahy a profesionální péči. Konsenzus odborníků zůstává jasný: umělá inteligence je nástroj, nikoli terapeut, a je třeba jasně vymezit hranice, aby byla chráněna duševní zdraví uživatelů.