Представляем список того, что ChatGPT не может делать. Но он не является исчерпывающим. ChatGPT может генерировать довольно хороший код с нуля, но он не может сделать ничего, что могло бы занять ваше рабочее место.

Мне нравится думать о ChatGPT как о более умной версии StackOverflow. Очень полезная, но не заменяющая профессионалов в ближайшее время. Как бывший специалист по изучению данных, я провел немало времени, играя с ChatGPT, когда он только появился. Я был впечатлен его способностью к кодингу. Он мог генерировать довольно полезный код с нуля; он мог предлагать предложения по моему собственному коду. Он неплохо справлялся с отладкой, если я просил его помочь мне с сообщением об ошибке.

t.me/ai_machinelearning_big_data –  моем телеграм канале я публикую актуальные проекты курсы, уроки и примеры с кодом по машинному обучению.

Здесь я собрал папку полезных обучающих каналов по Машинному обучению и Анализу данных

Но чем больше времени я проводил за его использованием, тем больше сталкивался с его ограничениями. Для разработчиков, опасающихся, что ChatGPT лишит их работы, вот список того, что ChatGPT не может сделать.

1. Все, что ваша компания будет использовать

Первое ограничение связано не с его возможностями, а с законностью. Любой код, сгенерированный ChatGPT и скопированный вами в продукт компании, может навлечь на вашего работодателя неприятный судебный процесс.

Это связано с тем, что ChatGPT свободно извлекает фрагменты кода из данных, на которых он обучался, и которые поступают со всего интернета. “Я попросил chat gpt сгенерировать для меня код, и я сразу же узнал, из какого репозитория GitHub он взял большую его часть”, – объясняет пользователь Reddit ChunkyHabaneroSalsa.

В конечном итоге невозможно сказать, откуда был взят код ChatGPT и по какой лицензии он был создан. И даже если он был сгенерирован полностью с нуля, все, что создано ChatGPT, само по себе не является объектом авторского права. Как пишут авторы Bloomberg Law Шон Хелмс и Джейсон Кризер, “производное произведение” – это “произведение, основанное на одном или нескольких ранее существовавших произведениях”. ChatGPT обучается на основе ранее существовавших произведений и генерирует результаты на основе этого обучения”.

Если вы используете ChatGPT для генерации кода, у вас могут возникнуть проблемы с правами на код.

2. Все, требует критического мышления

Вот забавный тест: попросите ChatGPT создать код, который выполнит статистический анализ на Python.

Правильный ли это статистический анализ? Скорее всего, нет. ChatGPT не знает, соответствуют ли данные предположениям, необходимым для того, чтобы результаты теста были достоверными. ChatGPT также не знает, что хотят видеть заинтересованные стороны.

Например, я могу попросить ChatGPT помочь мне выяснить, есть ли статистически значимая разница в оценках удовлетворенности в разных возрастных группах. ChatGPT предлагает провести независимый выборочный T-тест и не находит статистически значимой разницы между возрастными группами. Но t-тест здесь не лучший выбор по нескольким причинам, например, из-за того, что может быть несколько возрастных групп или что данные не являются нормально распределенными.

Специалист по анализу данных с полным стеком знаний знает, какие предположения нужно проверить и какой тест запустить, и, возможно, даст ChatGPT более конкретные инструкции. Но ChatGPT сам по себе с радостью сгенерирует правильный код для неправильного статистического анализа, сделав результаты ненадежными и непригодными для использования.

Для решения подобных задач, требующих более критического мышления и решения проблем, ChatGPT – не лучший вариант.

3. Понимание приоритетов заинтересованных сторон

Любой специалист по исследованию данных скажет вам, что часть работы заключается в понимании и интерпретации приоритетов заинтересованных сторон в проекте. ChatGPT или любой другой искусственный интеллект не может полностью понять их или управлять ими.

Во-первых, приоритеты заинтересованных сторон часто связаны с принятием сложных решений, учитывающих не только данные, но и человеческий фактор, бизнес-цели и тенденции рынка.

Например, при редизайне приложения вы можете обнаружить, что команда маркетинга хочет сделать приоритетными функции привлечения пользователей, команда продаж настаивает на функциях, поддерживающих перекрестные продажи, а команда поддержки клиентов нуждается в улучшенных функциях поддержки в приложении, чтобы помочь пользователям.

ChatGPT может предоставлять информацию и генерировать отчеты, но он не может принимать тонкие решения, соответствующие разнообразным, а иногда и конкурирующим интересам различных заинтересованных сторон.

Кроме того, управление заинтересованными сторонами часто требует высокой степени эмоционального интеллекта – способности сопереживать заинтересованным сторонам, понимать их проблемы на человеческом уровне и реагировать на их эмоции. ChatGPT не обладает эмоциональным интеллектом и не может управлять эмоциональными аспектами отношений с заинтересованными сторонами.

4. Новые проблемы

ChatGPT не может придумать ничего по-настоящему нового. Он может только переделать и переосмыслить то, что узнал из своих учебных данных.
IИзображение theinsaneapp.com

Хотите узнать, как изменить размер легенды на графике R? Нет проблем – ChatGPT может извлечь информацию из 1000 ответов StackOverflow на вопросы, задающие то же самое. Но (используя пример, который я попросил ChatGPT сгенерировать), как насчет того, с чем он вряд ли сталкивался раньше, например, организация общественного праздника, где блюдо каждого человека должно содержать ингредиент, начинающийся на ту же букву, что и его фамилия, и вы хотите, чтобы блюда были самыми разнообразными.

Когда я протестировал этот промпт, нейросеть выдала мне код на Python, который решил, что название блюда должно совпадать с фамилией, даже не отразив правильно требование к ингредиентам. Кроме того, он хотел, чтобы я придумал 26 категорий блюд, по одной на каждую букву алфавита. Это был не очень умный ответ, потому, что это была совершенно дургая задача.

5. Принятие решений с учетом этических норм

И последнее, но не менее важное: ChatGPT не может писать этичный код. Он не обладает способностью выносить оценочные суждения или понимать моральные последствия кода так, как это делает человек.

Этичный кодинг подразумевает рассмотрение того, как код может повлиять на различные группы людей, обеспечение того, что он не дискриминирует и не причиняет вреда, а также принятие решений, соответствующих этическим стандартам и общественным нормам.

Например, если вы попросите ChatGPT написать код для системы одобрения кредитов, он может создать модель, основанную на исторических данных. Однако он не сможет понять социальные последствия того, что эта модель может отказать в кредите маргинальным слоям населения из-за предвзятости данных. Разработчики-люди должны осознать необходимость справедливости и равноправия, найти и исправить предубеждения в данных, а также обеспечить соответствие кода этическим нормам.

Вот пара примеров неэтичного поведения ИИ- предвзятый инструмент Amazon по подбору персонала, фотографий Google, которая идентифицировала чернокожих людей как горилл. Но у людей это получается лучше. ChatGPT не хватает эмпатии, совести и морального мышления, необходимых для этичного кодинга.

Люди могут понимать более широкий контекст, распознавать тонкости человеческого поведения и вести дискуссии о правильном и неправильном. Мы участвуем в этических дебатах, взвешиваем все “за” и “против” того или иного подхода и несем ответственность за свои решения. Когда мы совершаем ошибки, мы можем учиться на них, что способствует нашему нравственному росту и пониманию.

Заключительные мысли

Мне понравилась точка зрения: “Если вы только и делаете, что программируете, вы не инженер-программист, и да, вас заменит ИИ. Если вы думаете, что инженерам-программистам платят много, потому что они умеют писать код, значит, вы в корне не понимаете, что такое быть инженером-программистом”.

Я обнаружил, что ChatGPT отлично подходит для отладки, некоторой проверки кода и просто немного быстрее, чем поиск ответа на StackOverflow. Но “кодинг” – это нечто большее, чем просто ввод Python кода на клавиатуре. Это понимание целей бизнеса. Это понимание того, насколько тонкими должны быть алгоритмические решения. Это построение отношений с заинтересованными сторонами, истинное понимание того, чего они хотят и почему, и поиск способа сделать это возможным.

Это умение рассказывать истории, знать, когда лучше выбрать круговую или гистограмму, и понимать, что именно пытаются донести до вас данные. Это умение донести сложные идеи простыми словами, чтобы заинтересованные стороны могли понять их и принять решение.

ChatGPT не может сделать ничего из этого. Пока вы можете это сделать, вас не заменят.