AI 할루시네이션, 고장이 아니라는 걸 이제 알았네요

AI 할루시네이션은 사실과 다른 답을 그럴듯하게 만들어내는 거예요. 다음에 올 토큰을 예측하는 모델이 사실 확인 없이 있을 법한 표현을 이어붙이다 생긴다고 합니다. 처음엔 환각을 고장이라고 생각했어요. 모델이 뭔가 깨져서 헛소리하는 상태라고. 지금은 좀 다르게 봅니다. 고장이 아니고 이 물건이 원래 하는 일에서 나오는 부작용에 가깝다고요. 이 모델은 사실을