Нейросети могут уверенно выдавать ложь — и делать это красиво. Это называется «галлюцинацией»: модель не находит нужный факт, но генерирует убедительную чушь, чтобы заполнить «пустоту». Причём даже если раньше она отвечала правильно, это не гарантирует повторяемости — тот же вопрос, заданный иначе или в другом контексте, легко приводит к ошибке.

@f4kts