OpenAI тратит миллионы на обучение ChatGPT вежливости

Несмотря на все передовые возможности, запуск ИИ обходится довольно дорого, требуя значительных капиталовложений в базовое оборудование и энергоснабжение.

Оказывается, что участие в непринужденных разговорах и вежливый обмен мнениями требуют «десятков миллионов долларов» дополнительных расходов для таких компаний, как OpenAI. Тем не менее, генеральный директор этой компании Сэм Альтман считает эти инвестиции стоящими, поскольку, хотя вежливость в ответах и может показаться не столь уж значимой, она делает использование ИИ заметно более гуманным.

Многие уже ежедневно используют искусственный интеллект, в основном для помощи при поиске информации. Но среди таковых имеется подгруппа пользователей, сформировавших более глубокую связь с ИИ, представители которой общаются с ИИ, как с другом. Отчетливо помню, как ещё в первом классе меня учили, что «компьютеры не могут чувствовать», и это - одно из основных различий между человеком и машиной. Хотя ИИ не может проявлять эмоции, его воспринимаемая человеческая природа в такого рода взаимодействиях инстинктивно заставляет нас выпаливать любезности вроде «Спасибо» и «Пожалуйста».

Сэм Альтман признает это и сообщает, что ChatGPT обходится компании в десятки миллионов долларов только на генерацию ответов на эти вежливые слова. (Помним, что в недавно представленном отчете делается вывод о том, что даже короткий ответ из трех слов «Пожалуйста» от LLM приводит к расходованию примерно 40-50 миллилитров воды).

Учитывая это, отказ от любезности мог бы внести определенный вклад в сокращение ежемесячных расходов компании OpenAI. Но они не пытаются сэкономить таким вот образом.

Технически проблема сводится к тому, чтобы у производителя ИИ имелась возможность предварительно программировать свои модели для обработки распространенных и предсказуемых ответов. Однако, на практике, это легче сказать, чем сделать.

Кстати, исследователи из OpenAI и MIT предполагают, что некоторые люди могут стать эмоционально зависимыми от чат-ботов ИИ. И это, судя по всему, станет всё более часто проявляться, поскольку постепенно разговоры ИИ становятся почти неотличимыми от человеческих. Остается только фантазировать, в каком виде такая зависимость будет проявляться, и к каким последствиям в целом это приведет. Ведь, возможно, ваше «Спасибо» будет сказано совершенно искреннее, если бот помог вам, скажем, со сложной механической проблемой или удачно подсказал в ходе викторины.

Ещё интереснее взглянуть на ситуацию в случае, если с чатом общается премиум-пользователь. Тогда такие вежливые ответы уже являются частью оплаченных пользователем услуг. Является ли "Спасибо" чата в отношении премиум-пользователя более искренним, чем в случае бесплатного пользователя? А может - наоборот? Эти вопросы требуют отдельного исследования и обсуждения. И, да, если ИИ когда-нибудь станет разумным, - ваши хорошие манеры могут сыграть вам на руку: ему ведь тоже вежливость будет приятна.