Есть социальная сеть в которой каждый зарегистрированный пользователь может делать
публикации. Нужен инструмент, позволяющий выполнять проверку содержимого публикации “на
лету” с целью блокирования нежелательного контента. Под нежелательным контентом пониманием
фото- где есть насекомые и видео – где есть сырое мясо. Кроме того, нужно
автоматически контролировать спам рассылки пользователей, выявлять автоматизированную
активность от имени обычных пользователей. По факту выявления нарушений нужно блокировать /
удалять публикации, а также информировать ответственных лиц. Ответственные лица могут
указать, что публикация является допустимой (по аналогии с фильтрацией писем в почте в папку
СПАМ). В таком случае нужно автоматически донастраивать модель проверки, чтобы в будущем
она пропускала подобные публикации
Задача
Под нежелательным контентом пониманием
фото- где есть насекомые и видео – где есть сырое мясо. Кроме того, нужно
автоматически контролировать спам рассылки пользователей, выявлять автоматизированную
активность от имени обычных пользователей. По факту выявления нарушений нужно блокировать /
удалять публикации, а также информировать ответственных лиц. Ответственные лица могут
указать, что публикация является допустимой (по аналогии с фильтрацией писем в почте в папку
СПАМ). В таком случае нужно автоматически донастраивать модель проверки, чтобы в будущем
она пропускала подобные публикации
1)Пример самой простейшей социальной сети ( на пайтон , можно и на жава скрипт )
Тут нужно что бы исправно работало отправка изображений и видео
Тут нужно добавить когда пишешь никнейм admin можно заблокировать любого нажатого пользователя и так же у него есть панель где защита ии отправляет кого и за что заблокировал .А если видео приемлемо без сырого мясо или фото без насекомого , то админ нажимает на кнопку нет и ИИ защита обучается и больше не блокирует такое видео или фото ( подобное )( пользователя можно типо отправлять в бан )
( пример указал ниже в документе 1, самой обычной соц сети ( можно просто код доработать )
2)Можно использовать уже готовые библиотеки на пайтоне и использовать готовые пресеты в интернете , обучить минимально ии и добавить в соц сеть что бы он блокировал фото с насекомыми и видео с сырым мясом , а так же блокировал пользователей спам и маты и т.п. ( максимально простая ИИ )
( пример ии –
, можно сделать по своему без разницы )
( примечание нужно сделать открытый код )