Использование текстов созданных с помощью ИИ на форуме

[священник Алексий]

Предлагаю обсудить использование текстов сгенерированных ИИ на форуме. Посты, содержащие такие тексты, стали часто появляться в качестве ответов.
Если не хватает варианта ответа, подскажите.

Читать далее...

 

[Анна Сазонова]

Думаю, что если этот текст не несёт каких-то ошибок, не искажает истину, то можно.

 

[священник Алексий]

как его проветить?

 

[Анна Сазонова]

А как определяется, создан ответ с помощью ИИ или нет? Проверка какая-то проходит перед публикацией?

 

[священник Алексий]

А как определяется, создан ответ с помощью ИИ или нет? Проверка какая-то проходит перед публикацией?

Часто это видно по структуре текста, если пользователь его не изменяет.

 

[ИгорьВРН]

такие тексты стали часто появляться в качестве ответов

Как вы поняли что это с участием ИИ? Есть пример? Интересно посмотреть.

 

[РоманК.]

Почему бы и нет, по ним же видно, что они от ИИ + мне на глаза попадалось всего 3 таких, их них 2 - автор прямо сказал, что от ИИ, 1 сомнительный, структура вроде ИИ, а цитаты для него слишком точные.
Если запретить, то потом даже и не отличим ИИ от не-ИИ. С копипастами из Гугла ж не боремся, которые поначалу тоже всех раздражали, когда появились. Вот за достоверность ссылок и цитат бы ответственность возложить на авторов постов.

 

[Анна Сазонова]

"Стопроцентного способа определить, написан ли конкретный текст чат-ботом, не существует. Задача языковых моделей с искусственным интеллектом как раз и заключается в создании повествования, похожего на человеческое. И чем новее языковые модели, тем лучше у них получается.
Онлайн-сервисы, которые призваны выявить происхождение текста, пока часто ошибаются. Например, детектор GPTZero некоторые фрагменты из Библии помечает как на 88% сгенерированные искусственным интеллектом"
Это Яндекс Дзен по поиску выдал. Сегодня только на работе обсуждали.
Модель есть модель, она никогда не будет стопроцентно отражать действительность.

 

[Сергей Козлов]

А в чем проблема с ИИ? Если задать роль, типа "отвечай как православный богослов", все правильно будет говорить, с цитатами и т.п.

 

[Михаил Т]

Когда ИИ отвечает, не совсем релевантно акцент выставляется (иногда вообще мимо), какой-то поток сознания на тему ключевых слов, формально не бессмыслица, но реальной пользы от этих сообщений нет. Опять же странно, что о таком приходится голосовать)

 

[Анна Сазонова]

Когда ИИ отвечает, не совсем релевантно акцент выставляется (иногда вообще мимо), какой-то поток сознания на тему ключевых слов, формально не бессмыслица, но реальной пользы от этих сообщений нет. Опять же странно, что о таком приходится голосовать)

Зависит от системы и ее настроек. Очень даже не бессмыслица, но и не шедевр мысли. Хорошо использовать для создания стандартных сообщений. Я задания для практических работ с ИИ составляю. И картинки со студентами рисуем для презентаций на заданную тему. Правки минимальные.

 

[Максим Игоревич]

Я против и считаю что с этим нужно бороться, вплоть до ограничения: "Только чтение", допустим на пол года для первого раза. Ответ нам всем знаком по Диалектике мифа, а именно в Церкви не должна быть бутафория; даже если христианин плохо образован, пусть старается, пишет как умеет, это для него тоже образование, а иначе ещё сильнее будем деградировать.

 

[РоманК.]

Когда ИИ отвечает, не совсем релевантно акцент выставляется (иногда вообще мимо), какой-то поток сознания на тему ключевых слов, формально не бессмыслица, но реальной пользы от этих сообщений нет. Опять же странно, что о таком приходится голосовать)

Смотря какой ИИ видимо. В целом он прекрасно может справляться с задачей и максимально содержательно. Хотя и с фейковыми цитатами, и даже с ошибками, зачастую в нюансах.
Проблема тут скорее в том, чтоб не превратить форум в битву разных ИИ по заданным темам, когда при сущностном вопросе можно сразу к ИИ вместо форума. Но так - опять же, если "вот чего ИИ ответил на тему" - почему нет. В общем если в меру - я был бы за. Проверить факты через него, или использовать как генератор идей, куда и где чего посмотреть, а он к сожалению не подходит для "я вот точно помню, что где-то такое было у святого, дай конкретное место" - вполне возможен. Но вот достоверность цитат и ссылок все же бы обязать проверять.

 

[Татьяна - люблю Бога]

Люди обращаются на форум, чтобы общаться с живыми людьми, а не машинами. Поэтому выдавать тексты ИИ за свои ответы категорически нельзя. Если же обсуждение этих технологий для примера, с указанием "авторства" ИИ, думаю, что можно, чтобы проанализировать ошибки, уместность использования ИИ в других областях, проверить свои знания и пр.

 

[Олег Лесняк]

Предлагаю обсудить использование текстов сгенерированных ИИ на форуме. Посты, содержащие такие тексты, стали часто появляться в качестве ответов.
Если не хватает варианта ответа, подскажите.

Я не вижу смысла дискутировать с искусственным интеллектом. Ни для себя, ни для ИИ.

Кстати, я, бывало, задавал ChatGPT вопросы по Православным праздникам. Ответы ИИ меня не удовлетворяли.

 

[Василий_С]

Если не хватает варианта ответа, подскажите

"Да, но только если прямо указано, что это ИИ написал"

 

[РоманК.]

Я против и считаю что с этим нужно бороться, вплоть до ограничения: "Только чтение", допустим на пол года для первого раза. Ответ нам всем знаком по Диалектике мифа, а именно в Церкви не должна быть бутафория; даже если христианин плохо образован, пусть старается, пишет как умеет, это для него тоже образование, а иначе ещё сильнее будем деградировать.

Ну пол года - слишком)) Я вообще, как имеющий опыт модерации в коммерческом проекте - за прогрессивную систему банов, вне зависимости от тяжести нарушений. Нарушил - 3 дня бана, следующее нарушение того же типа - неделя, потом 2 ит.д. Нарушил потяжелее - сразу 2 недели - месяц - ит.д. вплоть до года, например. Это вполне удерживает от дальнейших нарушений, а кого не удерживает, прогрессивная система дает возможность и чатам и форумам отдыхать от них спокойно. С другой стороны, всегда есть возможность, что человек скажем через пол года-год вернется уже с более серьезным отношением.
Правда для такой системы надо более четко и детально правила прописать и уйти от системы целесообразности в пользу права. А это на религиозных, да и вообще на гуманитарных форумах всегда больная тема, где правила существуют практически всегда не для соблюдения, а чтоб повод был в случае чего, при удобном случае они игнорируются как пользователями, так и администрациями.

 

[священник Алексий]

Почему бы и нет, по ним же видно, что они от ИИ + мне на глаза попадалось всего 3 таких, их них 2 - автор прямо сказал, что от ИИ, 1 сомнительный, структура вроде ИИ, а цитаты для него слишком точные.
Если запретить, то потом даже и не отличим ИИ от не-ИИ. С копипастами из Гугла ж не боремся, которые поначалу тоже всех раздражали, когда появились. Вот за достоверность ссылок и цитат бы ответственность возложить на авторов постов.

Изучаем общественное мнение, о борьбе речь не идет, пока...
Пользователи высказывали недовольство, по этой причине создана тема.

"Да, но только если прямо указано, что это ИИ написал"

Добавил.
Голос можно изменить

 

[Максим Игоревич]

Ну пол года - слишком)) Я вообще, как имеющий опыт модерации в коммерческом проекте - за прогрессивную систему банов, вне зависимости от тяжести нарушений. Нарушил - 3 дня бана, следующее нарушение того же типа - неделя, потом 2 ит.д. Нарушил потяжелее - сразу 2 недели - месяц - ит.д. вплоть до года, например. Это вполне удерживает от дальнейших нарушений, а кого не удерживает, прогрессивная система дает возможность и чатам и форумам отдыхать от них спокойно. С другой стороны, всегда есть возможность, что человек скажем через пол года-год вернется уже с более серьезным отношением.
Правда для такой системы надо более четко и детально правила прописать и уйти от системы целесообразности в пользу права. А это на религиозных, да и вообще на гуманитарных форумах всегда больная тема, где правила существуют практически всегда не для соблюдения, а чтоб повод был в случае чего, при удобном случае они игнорируются как пользователями, так и администрациями.

Так решать же не нам в конце концов.
Но к слову я на днях на одном из форумов заполучил себе как-раз качество "Только чтение" аж до октября 2025. Я там много лет уже и скажу что такие меры очень хорошо воспитывают следить за тем что пишешь. Посему если и бороться с ИИ-комментариями, то мне ведом только такой способ. Бегать за нарушителями, отыскивать с помощью фильтров - зачем, если есть правило и свод наказаний за нарушение правил.

 

[РоманК.]

Так решать же не нам в конце концов.
Но к слову я на днях на одном из форумов заполучил себе как-раз качество "Только чтение" аж до октября 2025. Я там много лет уже и скажу что такие меры очень хорошо воспитывают следить за тем что пишешь. Посему если и бороться с ИИ-комментариями, то мне ведом только такой способ. Бегать за нарушителями, отыскивать с помощью фильтров - зачем, если есть правило и свод наказаний за нарушение правил.

Да оно только побудит маскироваться. Удалить все элементы форматирования, или вообще дать команду "дай простыней без форматирования" не составит особого труда. Я только слабо понимаю - зачем. Одно дело когда ты его хотя бы переосмыслил и выбрал то, с чем ты согласен, выразил свое отношение, а другое - бездумно скопировал ответ.
Так мне наоборот его форматирование нравится, я бы наоборот свои ответы ему отдавал на форматирование, если б было не лень, это ж надо заходить, формировать запрос, ждать, копировать...