Скрытые риски нейросетей

Радость о всеохватывающих способностей нейросетей постепенно утихает. Наступает период осмысления и фокуса на действительно полезных функциях и сферах их применения.

Вариантов, где нейросети, такие как ChatGPT могут быть полезны очень много. Особенную популярность набирает направление write, так редакция журнала Clarkesworld недавно была засыпана массой рассказов сгенерированных нейросетью. Чуть менее 1000 произведений было прислано на рассмотрение от ранее никому неизвестных авторов, решивших стать писателями при помощи ChatGPT.

И это своего рода прецедент, когда мы сталкиваемся с подменой творческого процесса на автоматическое генерирование смыслов. Говоря о творчестве, нейросети способны предлагать действительно впечатляющие решения в сегменте графики, дизайна, выдавать простые и очень оригинальные варианты по симуляциям, классификации информации.  Когда мы видим фактически подлог креативного процесса механистическим, в угоду коммерческой выгоде, возникает вопрос, а так ли необходимо внедрять нейросети во все сферы жизни?

Где та граница, когда требуется оптимизация процесса создания ценности и есть острая необходимость в использовании искусственного интеллекта, а где от этого стоит сознательно отказываться?

 Художественная ценность текстов сгенерированных нейросетями совершенно разная, от нелепых оборотов, до вполне оригинальных конструкций.

Оцените перечень сфер, где могут быть использованы нейросети и ответьте на простой вопрос, насколько в этих видах деятельности их использование жизненно необходимо:

• Проверка изображений на подлинность;
• Написание текста в коммерческих и художественных целях;
• Прогнозы;
• Пересказ текста; 
• Оценка результатов на основе базы данных;
• Креативная генерация фраз, образов;
• Написание кода;
• Создание стихов, поэм, романов;
• Добавление информации из источников;
• Анализ статистики;
• Исследование и получение данных;
• Сжатие текста;
• Редактирование данных.

Это лишь неполный перечень сфер, где нейросети могут активно быть задействованы, но риск кроется не только в том, что целые пласты специалистов будут не востребованы, риск заключается в том, что часто смысловая составляющая подменяется чисто механистической подстановкой данных, слов, значений и пока потребуется какое-то время для поиска нужного синергетического эффекта между результатом интеллектуального труда человека и нейросети.

.