ИЗ ЖИЗНИ  Ты не бойся, это глюк

Чат-бот ChatGPT навязал разработчикам музыкального приложения функциональность, которую они не планировали туда вносить. Искусственный интеллект дезинформировал пользователей настолько упрямо, что в итоге выдуманную им функциональность реализовали.

Речь идёт о платформе Soundslice, созданной в помощь преподавателям музыки и обучающимся: встроенный видеоплеер приложения выводит ноты и табулатуры с динамическим курсором, помогая исполнителю ориентироваться в музыкальном тексте.

Автор Soundslice - программист, музыкант и предприниматель Адриан Холоватый (Adrian Holovaty), известный также благодаря фреймворку Django.

Одной из наиболее востребованных функций Soundslice является возможность распознавания нот на изображениях с автоматическим преобразованием в интерактивный контент.

Холоватый постоянно мониторит лог ошибок, чтобы исправлять проблемы, если они появляются.
Но в этот раз поблемы появились откуда не ждали: внезапно пользователи начали серийно загружать в приложение скриншоты переговоров с ChatGPT, которые содержали ASCII-табулатуры (стандартные текстовые файлы с обозначениями тактов, струн и ладов без использования каких-либо специальных символов вроде скрипичного или басового знаков).

Функций распознавания ASCII-табулатур в Soundslice не было, и разработчик никак не мог понять, с чего бы вдруг пользователи решили, что это возможно...

...Пока не обнаружил, что ChatGPT упрямо приписывает приложению эту функцию.

Это довольно распространённая проблема: не обладая нужной информацией, чат-боты начинают синтезировать подмену, которая может выглядеть правдоподобно, но не иметь никакого отношения к действительности.

В том, что Soundslice может распознавать ASCII-табулатуры - это "галлюцинация", которую слишком много пользователей приняли за чистую монету.

Но для создателей Soundslice это оказалось крупной проблемой, в том числе, репутационной: пользователи с высокой долей вероятности посчитают, что это не ChatGPT их обманул, а что приложение не работает.

В итоге разработчики встали перед выбором: либо повсюду развесить предупреждения, что ChatGPT соврал, и что табулатуры не распознаются, либо... реализовать эту функцию.

В итоге было решено пойти на поводу у ChatGPT и реализовать распознавание ASCII-табулатур.

Сам Холоватый признал, что испытывает смешанные чувства по этому поводу:

"Я рад добавить инструмент, который поможет людям. Но я также чувствую, что нам выкрутили руки самым что ни на есть странным образом. Действительно ли стоит разрабатывать функции в ответ на дезинформацию?" - написал разработчик.

Впрочем, на Hacker News некоторые коллеги по цеху заметили, что в целом это ничем не отличается от случаев, когда гиперактивные продажники сперва обещают фантастические функции у рекламируемого продукта, а затем вынуждают разработчиков их реализовывать, даже если такого в планах не было.

В качестве такого продажника-вымогателя в этот раз выступил генеративный ИИ.