Мировая наука

Учёным запретили использовать сгенерированные Искусственным интеллектом тексты

10.01.2023

304



На сороковой Международной конференции по машинному обучению приняты политики, существенно ограничивающие использование больших языковых моделей LLM (Large Language Model) для написания научных статей.

Исключение сделано для тех случаев, когда сгенерированный текст является частью экспериментального анализа статьи и если LLM   модели использовались для корректорской правки или стилистических и грамматических исправлений.

Большие языковые модели (LLM (Large Language Model) — это нейросетевые модели, использующие алгоритмы машинного обучения, позволяющие обобщать, прогнозировать, генерировать человеческие языки на основе больших наборов текстовых данных. Принцип работы таких моделей основан на определении вероятностного сочетания слов и их значений в заданном контексте с использованием определенных алгоритмов вычислений.
В настоящее время основное применение LLM находят в чат-ботах, написании статей, маркетинговых текстов, электронных писем, переводах текстов, используются поисковыми системами и т.д.
Пока это решение носит больше рекомендательный характер, так как нет четких протоколов и технологий по выявлению сгенерированных текстов. 
Данное решение вызывает масштабное обсуждение и затрагивает многие правовые, этические аспекты научной деятельности.
В комментировании данного решения говорится:
«Поскольку то, как мы отвечаем на эти вопросы, напрямую влияет на процесс рецензирования, который, в свою очередь, влияет на членов нашего исследовательского сообщества и их карьеру, мы должны быть осторожны и несколько консервативными при рассмотрении этой новой технологии. OpenAI выпустила бета-версию ChatGPT в конце ноября 2022 года, то есть менее двух месяцев назад. К сожалению, у нас не было достаточно времени, чтобы наблюдать, исследовать и учитывать его последствия для нашего процесса рецензирования и публикации. Поэтому мы решили запретить производство/генерацию текста ICML с использованием крупномасштабных языковых моделей в этом году (2023).
 
Хотя в этом году мы запрещаем текст, создаваемый LLM, мы планируем изучить и обсудить влияние, как положительное, так и отрицательное, LLM на рецензирование и публикацию в области машинного обучения и искусственного интеллекта. Это решение будет пересмотрено для будущих итераций ICML». https://icml.cc/Conferences/2023/llm-policy 

«« | »»
Последние новости