ChatGPT часто и уве­рен­но дает про­грам­ми­стам пло­хие со­ве­ты, ко­то­рые ка­жут­ся очень по­лез­ны­ми

Как по­ка­за­ли ре­зуль­та­ты ис­сле­до­ва­ния, про­ве­ден­но­го аме­ри­кан­ски­ми уче­ны­ми, по­ла­гать­ся на ChatGPT в во­про­сах на­пи­са­ния про­грамм может быть не слиш­ком хо­ро­шей идеей. Ве­ро­ят­ность по­лу­чить сге­не­ри­ро­ван­ный ботом код с ошиб­ка­ми пи­б­ли­зи­тель­но равна шансу вы­па­де­ния «орла» при под­бра­сы­ва­нии мо­не­ты. Люди склон­ны не за­ме­чать этих оши­бок из-за при­ят­но­го тона и уве­рен­но­сти, с ко­то­рой чат-​бот из­ла­га­ет ма­те­ри­ал.

ChatGPT оши­ба­ет­ся по­сто­ян­но

Чат-​бот ChatGPT более чем в по­ло­вине слу­ча­ев дает невер­ные от­ве­ты на во­про­сы по теме про­грам­ми­ро­ва­ния, пишет The Register со ссыл­кой на ре­зуль­та­ты ис­сле­до­ва­ния, про­ве­ден­но­го уче­ны­ми Уни­вер­си­те­та Пер­дью (штат Ин­ди­а­на, США). При этом даже некор­рект­ная ин­фор­ма­ция, вы­дан­ная де­ти­щем ком­па­нии OpenAI, неред­ко вос­при­ни­ма­ет­ся его поль­зо­ва­те­ля­ми как до­сто­вер­ная.

Ко­ман­да ис­сле­до­ва­те­лей про­ана­ли­зи­ро­ва­ла от­ве­ты ChatGPT на 517 во­про­сов, раз­ме­щен­ных на по­пу­ляр­ной плат­фор­ме для про­грам­ми­стов Stack Overflow на пред­мет их кор­рект­но­сти, по­сле­до­ва­тель­но­сти, пол­но­ты и ла­ко­нич­но­сти. Спе­ци­а­ли­сты также про­ве­ли линг­ви­сти­че­ский и сентимент-​анализ (ана­лиз то­наль­но­сти) тек­ста, вы­да­ва­е­мо­го ботом.

Затем участ­ни­кам ис­сле­до­ва­ния в со­ста­ве груп­пы из 12 че­ло­век с раз­лич­ным опы­том в сфере раз­ра­бот­ки про­грамм­но­го обес­пе­че­ния было в част­но­сти, пред­ло­же­но, опре­де­лить, какой из от­ве­тов – дан­ный ChatGPT или ре­аль­ным че­ло­ве­ком с плат­фор­мы Stack Overflow – яв­ля­ет­ся пра­виль­ным.

Ис­сле­до­ва­ние по­ка­за­ло, что в 52% слу­ча­ев от­ве­ты ChatGPT на во­про­сы, свя­зан­ные с на­пи­са­ни­ем про­грамм­но­го кода, со­дер­жа­ли ошиб­ки. Тем не менее в 39,34% слу­ча­ев эти от­ве­ты (77% из ко­то­рых на­зва­ны по­дроб­ны­ми) ока­за­лись в до­ста­точ­ной сте­пе­ни убе­ди­тель­ны­ми для участ­ни­ков ис­сле­до­ва­ния, по­сколь­ку от­ли­ча­лись пол­но­той и были четко сфор­му­ли­ро­ва­ны.

ChatGPT верят даже тогда, когда он оче­вид­но неправ

Из пре­прин­та ра­бо­ты под на­зва­ни­ем “Who Answers It Better? An In-​Depth Analysis of ChatGPT and Stack Overflow Answers to Software Engineering Questions”, опуб­ли­ко­ван­но­го на пло­щад­ке arxiv.org, также сле­ду­ет, что участ­ни­кам ис­сле­до­ва­ния уда­ва­лось об­на­ру­жить ошиб­ки в вы­да­че чат-​бота OpenAI лишь тогда, когда они были со­вер­шен­но оче­вид­ны­ми.

Од­на­ко в слу­ча­ях, когда для вы­яв­ле­ния ошиб­ки было необ­хо­ди­мо об­ра­ще­ние к до­ку­мен­та­ции или к ин­стру­мен­там раз­ра­бот­чи­ка (на­при­мер, к ин­те­гри­ро­ван­ной среде раз­ра­бот­ки; IDE) с целью про­вер­ки ра­бо­то­спо­соб­но­сти пред­ло­жен­но­го фраг­мен­та кода на прак­ти­ке, участ­ни­ки ис­сле­до­ва­ния часто не справ­ля­лись с по­став­лен­ной за­да­чей вовсе или были склон­ны недо­оце­ни­вать се­рьез­ность ошиб­ки.

Даже в си­ту­а­ци­ях, когда ошиб­ка в от­ве­те ChatGPT ока­зы­ва­лась во­пи­ю­щей, двое из 12 участ­ни­ков ис­сле­до­ва­ния от­да­ва­ли пред­по­чте­ние ре­ко­мен­да­ци­ям бота, а не поль­зо­ва­те­ля Stack Overflow. По мне­нию ав­то­ров на­уч­ной ра­бо­ты, такое по­ве­де­ние под­опыт­ных обу­слов­ле­но фор­мой по­да­чи ма­те­ри­а­ла чат-​ботом. Участ­ни­кам ис­сле­до­ва­ния, как вы­яс­ни­лось, им­по­ни­ро­ва­ли веж­ли­вость ChatGPT, точ­ность ис­поль­зо­ван­ных им фор­му­ли­ро­вок и его стрем­ле­ние при­дер­жи­вать­ся на­уч­но­го стиля речи. Эти сти­ли­сти­че­ские осо­бен­но­сти, ге­не­ри­ру­е­мо­го чат-​ботом тек­ста, в со­во­куп­но­сти с раз­вер­ну­то­стью пред­ла­га­е­мых им от­ве­тов убе­ди­ли ис­пы­ту­е­мых в их пра­виль­но­сти.

Веж­ли­вость – луч­шее ору­жие чат-​бота

По сло­вам Самии Кабир (Samia Kabir), со­ав­то­ра на­уч­ной ра­бо­ты, одной из глав­ных при­чин, по ко­то­рой поль­зо­ва­те­ли до­ве­ря­ют от­ве­там ChatGPT, яв­ля­ет­ся их раз­вер­ну­тость. Участ­ни­ки ис­сле­до­ва­ния были не воз­ра­жа­ли про­тив озна­ком­ле­ния с длин­ным и на­сы­щен­ным по­дроб­но­стя­ми тек­стом, если тот со­дер­жит цен­ные све­де­ния.

По­зи­тив­ный эмо­ци­о­наль­ный окрас ге­не­ри­ру­е­мо­го ботом тек­ста и его веж­ли­вость – два дру­гих, не менее важ­ных фак­то­ра, ока­зы­ва­ю­щих вли­я­ние на выбор поль­зо­ва­те­ля.

На­ко­нец, та уве­рен­ность, с ко­то­рой ChatGPT пре­под­но­сит ин­фор­ма­цию, порой невер­ную, вы­зы­ва­ет у поль­зо­ва­те­лей до­ве­рие и в ре­зуль­та­те скло­ня­ет к вы­бо­ру непра­виль­но­го от­ве­та.

ChatGPT скло­нен к кон­цеп­ту­аль­ным ошиб­кам

Среди про­чих лю­бо­пыт­ных на­блю­де­ний, за­фик­си­ро­ван­ных в ра­бо­те, – склон­ность ChatGPT к со­вер­ше­нию кон­цеп­ту­аль­ных оши­бок и в го­раз­до мень­шей сте­пе­ни – фак­то­ло­ги­че­ских, что обу­слов­ле­но непо­ни­ма­ни­ем ботом кон­тек­ста за­дан­но­го ему во­про­са.

В мае 2023 г. CNews писал о том, что аме­ри­кан­ский юрист Сти­вен Шварц (Steven Schwartz) ис­поль­зо­вал ChatGPT для под­го­тов­ки до­ку­мен­тов по иску к ком­па­нии Avianca. По­пыт­ка упро­стить свой труд с по­мо­щью ал­го­рит­мов обер­ну­лась для ад­во­ка­та ка­та­стро­фой – раз­ра­бот­ка OpenAI снаб­жа­ла его недо­сто­вер­ной ин­фор­ма­ци­ей, о чем опыт­ный юрист даже не до­га­ды­вал­ся.

При этом на своем офи­ци­аль­ном сайте OpenAI пре­ду­пре­жда­ет о том, что ChatGPT «может да­вать неточ­ную ин­фор­ма­цию о людях, ме­стах и фак­тах».

Что такое ChatGPT

ChatGPT – чат-​бот с ис­кус­ствен­ным ин­тел­лек­том на базе язы­ко­вой мо­де­ли GPT. Он ра­бо­та­ет с но­яб­ря 2022 г. и при­над­ле­жит аме­ри­кан­ской ком­па­нии OpenAI, в ко­то­рую ин­ве­сти­ру­ет кор­по­ра­ция Microsoft.