АВТОМАТИЗАЦИЯ ПОИСКА НЕДОСТОВЕРНОЙ ИНФОРМАЦИИ В ИНТЕРНЕТЕ

Доклад:

Дахнович А.Д. – руководитель проектов ООО «НеоБИТ», г. Санкт-Петербург

Модератор:

Москвин Д.А. – к.т.н., технический директор ООО «НеоБИТ», доцент Института компьютерных наук и кибербезопасности (СПбПУ)

Эксперты:

Рыжова Е.Ю. – советник генерального директора, ФГУП «ГРЧЦ»

Петренко С.А. – д.т.н., проф., СПбГЭТУ «ЛЭТИ»

Архипов В.В. – д.ю.н., заведующий кафедрой СПбГУ

Дезинформация и фальшивые (фейковые) новости имеют долгую историю, однако их масштаб и эффективность поднялись на беспрецедентный уровень именно сегодня, благодаря цифровизации в социальной сфере. Возможности искусственного интеллекта резко снизили стоимость распространения фейков. Дезинформация стала проблемой государственного уроня: введенные уголовные наказания за ее распространение подчеркивают масштаб проблемы. Но что такое «достоверная информация» с точки зрения технологий? Как разработать автоматизированную вычислительную систему для идентификации поддельной информации? Технически «фейк» - это мультимодальные медиаматериалы, содержащие в себе факты. Автоматизация анализа осложняется тем, что:
– существует огромное количество фактов, а также их интерпретаций;
– существуют медиаматериалы, оперирующие смыслами;
– современные нейронные сети типа ChatGPT умеют генерировать «фейки» со скоростью, превышающей скорость аналитических систем.
В рамках круглого стола предстоит разобраться, возможно ли построить автоматизированный процесс выявления фейков.

Вопросы к обсуждению:

1. Фактчекинг: единственный инструмент в нашем арсенале для борьбы с фейками?
2. Что такое «фейки» и факты на языке математики?
3. «Абсолютно правдивые» факты – миф или реальность?
4. Как бороться с фейками, сгенерированными нейросетями, подобным ChatGPT?
5. Будущее Интернета 3.0: грозит ли нам «всемирный блокчейн фактов»?