Google создала оружие для борьбы с интернет-троллями

Google выходит на тропу войны с интернет-троллями
Новый инструмент под названием Conversation AI наделён искусственным интеллектом и может автоматически определять оскорбительные комментарии. Об этом сообщает Wired.

Система, разработанная одним из подразделений Google, оценивает изречения интернет-пользователей по шкале от 1 до 100, в которой 1 балл означает нейтральный комментарий, а 100 баллов — максимально резкое и оскорбительное высказывание.

Как утверждают создатели, Conversation AI работает намного точнее, чем стандартные фильтры ключевых слов: в настоящий момент система успешно выявляет троллей в 92% случаев. Кроме того, искусственный интеллект работает значительно быстрее, чем живые модераторы. Конечно, Conversation AI ещё требует доработки, поскольку система иногда принимает нейтральные комментарии за оскорбительные.

В ближайшее время команда разработчиков планирует начать испытание своего алгоритма в комментариях издания The New York Times. Кроме того, новым программным обеспечением заинтересовались представители Википедии.

Как ожидается, Conversation AI будет распространяться с открытым исходным кодом, чтобы администраторы интернет-ресурсов могли свободно использовать данную систему и помогать в её развитии.
Источник

Все попытки идеализировать что-либо,имеющие под собой явный умысел контроля и выгоды никогда ни к каким благам для людей приводили.
Если конкретный человек ведется на провокацию,а точнее демонстрирует эммоциональный взрыв на основе личных убеждений,личного восприятия действительности,то это его проблема,а не проблема общества в котором он находится.
Если каждый в себе воспитает сдержанность,которая будет подкреплена пониманием фундаментальности какого-либо утверждения,троллинг исчезнет сам по себе,без нужды придумывания средств для борьбы с провокаторами.
Парадокс,но люди сами себе навязывают то,с чем потом активно пытаются бороться,а кто-то просто подливает масло в огонь и пытается на всем этом заработать.
Гугл,анализируя то,что говорят люди,скорее всего будет создавать психологическую классификацию людей.Опять таки очень удобно и перспективно в направлении рекламы,не говоря уже о интересах спецслужб,когда нужный человек сам о себе все расскажет,а добрый гугль просто преподнесет нужную информацию на блюдечке за определенные вложения и поддержку со стороны правительства.

ser477 писал(а):

Чем больше этих однокоренных слов, тем толще тролль.

Выходит, для тонкого троллинга им придётся ставить "тонкий клиент", а для толстого троллинга "толстый клиент"?

Будут ли попадать ли в эти словари русские фразы типа "ишдрыть-колотить твою чувырлую закоряку!" или "клёпаный батон, куда ж тебя споросячило"?

По мне, так гугл - самый главный троль. И во всяком случае глупо верить, что он заботится о ком-нибудь, кроме своих доходов.

sergech писал(а):

По мне, так гугл - самый главный троль. И во всяком случае глупо верить, что он заботится о ком-нибудь, кроме своих доходов.

Цель любой фирмы - захват рынка и получение доходов. Всё остальное "якобы человеколюбие" и красивые корпоративные фразы - придумали для наивных и доверчивых, потому что глупый и необразованный, не умеющий анализировать и понимать причины и следствия "пипл всё схавает".

rnd71 писал(а):

Bio95 писал(а): Порой некоторые подколы могут быть весьма тонкими и завуалированными, и не каждый человек может их опознать, не говоря уже о ИИ. Бред как по мне, в принципе достаточно базы данных матов, хотя и та бывает затирает вполне безобидные слова из за определённого порядка букв. Это называется сарказм. Просто "подколы" или открытое хамство не есть троллинг как таковой. Тролль создает такой вполне себе корректный посыл, который провоцирует на агру нормального человека. Т.е. если я намеренно напишу корректно, по русски, без мата, но так, что задену человека за живое - то человек отреагирует бурно и агрессивно - это и есть троллинг. Если же я сделаю это ненамеренно (мало ли у кого какие тараканы), то я не троль, просто так получилось. Грань между сарказмом, случайным оскорблением и троллением настолько тонка, что порой и опытный модератор не будет в состоянии точно определить что есть что.

Чаще всего модераторы не определяют что есть что, а сразу наказывают.

я думал это называется поиск по ключевым словам. теперь искусственный интеллект ищет все те же слова. Тупеем что ли?

Правильно делают. Жесче надо с троллями

главные тролли это правительства

С транскрипцией в совокупи с русским матом не один искусственный интеллекта не совладает, по крайне мере ближайшие лет 50! Для этого понадобится целая лаборатория программистов и колоссальные затраты!
G00gle CaceT /7uCI-O, eMy xopoLLIo.

monamax245 писал(а):

главные тролли это правительства

Ахаха, а они все рассчитывали ещё сухими выйти из всей этой передряги и во всём происходящем на земле, с человеком, как-будто вот именно они все совершенно не причём. Святая непосредственность или закос под неё. Зато они руководят неразумными и возглавляют, несут это "тяжелейшее и неблагодарнейшее" бремя.

Цитата:

Зато они руководят неразумными и возглавляют, несут это "тяжелейшее и неблагодарнейшее" бремя.

Я не прочь обменяться, пускай отдохнут, оставьте контакты, возьму эту ношу на себя...

Кто бы что не говорил. Но ИскуственныйИнтеллект в руках государства и частных компаний - АБСОЛЮТНОЕ ЗЛО.

mixryk писал(а):

Конечно, Conversation AI ещё требует доработки, поскольку система иногда принимает нейтральные комментарии за оскорбительные.

так можно говорить вечно, хотя это стимул для ускорения эволюции "фени"
из вики -
Тро́ллинг — форма социальной провокации или издевательства в сетевом общении

по мне так любое общение это уже троллинг,
а тот кто молчит и не участвует, тем самым УЖЕ - провоцирует и издевается

Рявкин писал(а):

Тро́ллинг — форма социальной провокации или издевательства в сетевом общении а тот кто молчит и не участвует, тем самым УЖЕ - провоцирует и издевается

Собственно троллинг в том виде, каким он стал сейчас - появился еще в 18 веке.
Как кстати, и кащенский язык, из которого вырос пресловутый албанский.
Кстати, владеть кащенским(албанским) невозможно, не зная в совершенстве оригинальный русский язык, так как все преобразования идут точно по правилам русского языка.
То, что сейчас пишут двоечники, выдавая это за албанский - это попытка скрыть полную безграмотность.
То же самое и с троллингом...

rnd71
ну я то исходил не из следствия, а из причины,
а причина это понимание таких слов как провокация и издевательство,
и понимание то может однозначно, но все люди разные, их точка зрения тоже,
и для каждой системы взглядов, для каждой черты характера своя однозначность,
а что такое троллизм? это уже такая религия?