Насколько точную информацию выдает ChatGPT?

Общение с ChatGPT вызывает у моего 8-летнего сына восторг. Кажется, что ChatGPT знает ответы на все детские вопросы: «Почему небо голубое», «Почему вода мокрая» и даже «Зачем взрослые корчат рожи малышам».

Кто обучил языковую модель так быстро и почему она бесплатная для пользователей?

Может ли 8-летний мальчик чему-то научить ChatGPT?

Будет ли ChatGPT использовать полученные знания от этого мальчика только в диалоге с ним или будет транслировать полученную информацию другим пользователям?

Что будет, если 8-летний мальчик на самом деле обманул языковую модель и дал ей для передачи дальше неверную информацию?

Ниже полный лог беседы. Вопросы от сына я оборачивал в литературные формулировки.

Приветствие.

Саша задал вопрос про цвет неба, но ChatGPT ответил некорректно: «.. его длины волны начинают рассеиваться …».

Саша указал на ошибку и попросил ChatGPT переформулировать ответ с учетом данной им информации. ChatGPT сделал это.

Здесь началось самое интересное. Саша спросил будет ли ChatGPT использовать полученную информацию в общении с другими пользователями и что будет, если он ее обманул? ChatGPT ответила, что информацию использовать будет и что исправит ошибку только в том случае, если кто-то из других пользователей явно укажет на нее.

Заключение

Из диалога мы узнали, что ChatGPT доверяет информации, полученной от 8-летнего мальчика и будет использовать эту информацию в других диалогах. Ошибку может исправить только другой пользователь и только если явно укажет на нее.

Бесплатный доступ на самом деле не является бесплатным — пользователи непрерывно обучают ChatGPT, корректируя ее ошибки.

Насколько точной будет информация, распространяемая ChatGPT? В текущей реализации она будет во многом определяться усредненным уровнем знаний всех ее пользователей.

В какой момент эта информация будет использована для обучения модели не понятно: на текущий момент модель помнит контекст в 3000 слов и не обучается на лету.