OpenAI разработала инструмент, который может точно определять тексты, сгенерированные с помощью ChatGPT. Эта технология добавляет в текст невидимые «водяные знаки», которые могут быть обнаружены с помощью специализированных алгоритмов. Однако в компании пока не решили, стоит ли делать этот инструмент доступным для широкой публики.

Дебаты по поводу целесообразности выпуска инструмента продолжаются уже около двух лет, и он был готов к выпуску ещё год назад. В OpenAI обсуждают, как этот инструмент повлияет на прозрачность и приверженность к этическим стандартам, а также на привлечение и удержание пользователей. Опрос показал, что треть лояльных пользователей ChatGPT не поддерживает идею внедрения такой технологии.

Пользователи, поддерживающие внедрение инструмента, считают, что он поможет в образовательной сфере, позволяя учителям выявлять недобросовестных учеников, которые используют ИИ для выполнения домашних заданий. Исследование Center for Democracy & Technology показало, что 59% учителей считают, что их ученики используют ИИ при выполнении заданий, что на 17% больше по сравнению с прошлым годом.

Пока неизвестно, будет ли OpenAI внедрять этот инструмент, и какие решения будут приняты в отношении его общего доступа.