Ира дала ссылку на статью о глупеющем GPT и тут я вспомнил, что
обещал, но так и не написал о том, как пробовал с ним общаться и какие мысли меня стали обуревать.
Первое впечатление, как и у, наверное, большинства, было ошеломляющим: ChatGPT в версии 3.5 общался со мной на почти идеальном английском, польском и русском, тексты были логичными, имели хорошую структуру и выглядели убедительно. ИИ реагировал на мои вопросы и реплики как доброжелательный, терпеливый и энциклопедически образованный человек. Признаюсь, я сразу же стал искать его слабые места - и быстро нашёл. Это было то, что ответы чата были основаны не на поиске и обработке информации, а на каких-то принципах связи между словами, установленных на основании загруженного в него несусветного объёма текстов. В результате он давал хорошие ответы на вопросы, о которых было написано много - например, с чем связано разнообразие моделей капитализма или кто такой Лешек Бальцерович. Зато в ответах на более специализированные вопросы он начинал всё более плыть, немного как как недостаточно трудолюбивый студент с хорошо подвешенным языком. Тексты сохраняли внешнее правдоподобие, то есть это не был откровенный абсурд и правду от артефактов не специалист вряд ли смог бы отделить. Потом у меня возникла ассоциация с нашим премьер-министром Матеушем Моравецким, удивительно одарённым демагогом, перемешивающим в своих речах правду с вымыслом - необычайно гладко, не моргнув глазом, выдумывая события, числа и подходящие интерпретации. Я несколько раз испробовал на окружающих формулировку "ChatGPT врёт, как Моравецкий" и остался доволен результатом. Другое дело, что, в отличие от последнего, ИИ не делает это специально.
В качестве примера приведу мою беседу на польском обо мне, поскольку я себя знаю лучше, чем кого-либо другого. Я для интернетов не являюсь инкогнито, a фамилия у меня редкая, но необходимый порог популярности, как оказалось, не был преодолён. Людей, которых упомянул чат, в природе не существует.
( Read more... )Потом я перешёл на русский язык. ИИ извивался и врал, приписывая мне несуществующие должности (спасибо, в основном руководящие) в несуществующих организациях и несуществующие публикации (жаль, что я не написал монографии "Институты и экономическое развитие" и "Экономическая политика в условиях кризиса") и начал сыпаться, периодически выдавая ошибку
Error in body stream. Я почувствовал глубокое удовлетворение, как русский лесоруб из анекдота про японскую бензопилу.
С моим папой, филологом-классиком с совершенно уникальным сочетанием имени, отчества и фамилии - намного более известной персоной, чем я, получилось тоже смешно: несмотря на мои подсказки, чат делал его то физиком, то математиком, то информатиком, то историком.
Потом я стал предлагать ему рассказать о людях, которых я выдумал - и чат послушно составлял их биографии, не дав себя обмануть только с видным британским экономистом Лехом Валенсой.
И только про ЖЖ юзера Малпу, названную по её настоящим имени-фамилии, ChatGPT честно признался, что не знает, кто это.