22 июля на площадке Штаба общественной поддержки «ЕДИНАЯ РОССИЯ» Ульяновской области для адвокатов АПУО была проведена научно-популярная лекция «Преимущества и опасности ИИ». Спикер Ярушкина Надежда Глебовна, архитектор интеллектуальных систем, ООО "Зебрайнс", доктор технических наук. профессор, член научного совета Российской ассоциации искусственного интеллекта.
Лектор разъяснила присутствующим о сильных сторонах и перспективах ИИ: практическая сила ИИ заключается в способности обрабатывать информацию, распознавать закономерности и выполнять когнитивные задачи с беспрецедентной скоростью и в огромных масштабах; он может анализировать колоссальные объёмы данных, извлекать инсайты, находить тенденции или аномалии, трудноуловимые для человека; программы автоматизируют рутинные задачи и повторяющуюся интеллектуальную работу, повышают производительность и снижают затраты.
Чат-боты и другие формы генеративного ИИ отвечают на запросы и мгновенно создают текст, изображения, видео, музыку, программный код, учебные материалы и иной контент в ответ на промты пользователя, ускоряя сбор информации, инновации и принятие решений. ИИ качественно обобщает, переводит и перефразирует текст, помогает генерировать идеи. Он также обеспечивает взаимодействие на естественном языке, делая технологию доступной для неспециалистов и глобального сообщества. Мультимодальные возможности повышают его полезность в самых разных областях. Кроме того, ИИ может выступать в роли мощного соавтора, усиливая творческие и аналитические способности человека, а не заменяя интеллект.
ИИ переходит от автономных инструментов к целеустремлённым самоуправляемым системам. Агентные ИИ-системы, способные планировать, действовать и адаптироваться с минимальным контролем со стороны человека, на подъёме, обеспечивая масштабное влияние.
Наряду с преимуществами, ИИ несёт серьёзные риски. Среди них — предвзятые, дискриминационные и вредоносные ответы; непрозрачность и необъяснимость принятия решений; нарушение конфиденциальности из-за сбора данных для обучения; уязвимости в области кибербезопасности, включая атаки с использованием ИИ.
ИИ-системы могут выдавать уверенные, но неверные или вымышленные сведения. Более того, ИИ способствует и усиливает распространение дезинформации, дипфейков и манипулятивного контента, подрывая общественное доверие и стимулируя алгоритмическое манипулирование общественным мнением. Лестное, угождающее или подтверждающее поведение тоже может наносить вред.
Чрезмерная зависимость от ИИ способна ослабить человеческое суждение, критическое мышление и навыки принятия решений.
Поэтому разработка и внедрение технологии должны направляться осознанным пониманием, здравым смыслом и ответственным управлением. Оценивая пригодность ИИ для любого применения, необходимо тщательно и всесторонне учитывать его возможности, преимущества, ограничения и риски.
