ChatGPT a podobní jsou "dobrý sluha, ale zlý pán," a velmi rádo si to vymyslí nějaký potenciálně nebezpečný nesmysl - třeba konzistentně halucinuje neexistující program, až ho nějaký záškodník vytvoří a zveřejní, a získá tak hromadu nakažených zařízení zadarmo. Je potřeba být s jejich radami dost opatrný.