Изкуственият интелект знае повече за вас, отколкото предполагате

Потребителски организации настояват за колективна защита на личните данни, след като алгоритмите започнаха да извеждат чувствителна информация дори от обикновени покупки и навици

Данните от пазаруването в супермаркета, местоположението на телефона и ежедневните ни навици могат да разкрият много повече за нас, отколкото съзнаваме. Системите с изкуствен интелект (ИИ) анализират подобни следи, за да правят прогнози за здравето, финансовото състояние и поведението ни. Тези изводи могат да повлияят върху рекламите, продуктите и услугите, които ни предлагат, както и върху решения с отражение върху личния ни живот.

За този риск предупреждава международната потребителска организация Consumers International, известна и като Потребителски интернационал. На 22 септември междунаародната организация започна кампания за преосмисляне на защитата на личните данни в ерата на изкуствения интелект. Основното ѝ послание е, че поверителността трябва да се разглежда като обществено благо, а не като отговорност, която всеки потребител трябва да носи сам.

Кампанията е подкрепена от Асоциация „Активни потребители“, която призовава институциите, регулаторите, бизнеса и гражданските организации да използват предложените принципи за по-ефективна защита на личния живот.

Как покупките могат да разкрият лични тайни

Представете си, че се регистрирате за карта за лоялност в супермаркет, за да спестите от седмичните покупки. Събраната информация може да бъде анализирана години по-късно и да участва в изграждането на профил с прогнози за здравословното ви състояние, финансовите ви възможности или бъдещото ви поведение.

Подобни изводи не изискват непременно човек да е споделил изрично чувствителна информация. Алгоритмите могат да откриват закономерности в покупки, местоположение и други данни, като ги съпоставят с модели, установени при множество хора.

Така се разширява разликата между това, което потребителите смятат, че споделят, и заключенията, които могат да бъдат направени за тях. А резултатите невинаги са видими: хората може да не знаят, че автоматизирана система е повлияла върху дадено предложение или решение, нито как да оспорят последствията.

Според данните от глобалното проучване, представено от Consumers International, 52% от представителите на потребителски организации по света очакват изкуственият интелект да има положително въздействие върху потребителите. Това обаче не премахва необходимостта от гаранции срещу злоупотреби и несправедливо третиране.

Въпросът не е дали ИИ трябва да използва данни, а при какви условия го прави, кой носи отговорност и какви възможности има потребителят да защити правата си.

Шест принципа за защита на личните данни

Consumers International предлага шест принципа, насочени към институциите, регулаторите, бизнеса и потребителските организации.

1. Данните трябва да служат на потребителите. Личната информация следва да се използва справедливо, сигурно и съобразно целта, за която е събрана, като се отчита интересът на хората.

2. Защита срещу вредно профилиране. Необходимо е да има гаранции срещу прогнози и оценки, които могат да доведат до дискриминация, манипулация или несправедливо отношение.

3. Реална отчетност и контрол. Компаниите трябва да носят отговорност за начина, по който използват лични данни и внедряват системи с изкуствен интелект. Регулаторите трябва да разполагат с ефективни механизми за прилагане на правилата.

4. Лесен достъп, преносимост и изтриване на данните. Потребителите трябва да могат да получават достъп до информацията си, да я прехвърлят и да я изтриват, когато това е приложимо, както и да избират услуги според очакванията си за поверителност.

5. Предварително тестване и човешки надзор. Системите с ИИ трябва да бъдат проверявани преди внедряването им и наблюдавани при използването им. Необходим е смислен човешки контрол, който да помага за откриването и отстраняването на вредни резултати.

6. Право на оспорване и обезщетение. Хората трябва да могат да разберат решенията, които ги засягат, да оспорват резултатите от използването на ИИ и да търсят ефективна защита, когато са претърпели вреди.

Поверителността не може да зависи само от личния избор

Според организаторите на кампанията досегашният модел поставя прекомерна тежест върху отделния потребител, който трябва сам да се ориентира в сложни настройки, политики за поверителност и условия за използване на цифрови услуги.

В ерата на изкуствения интелект този подход има все по-ограничени възможности. Дори човек внимателно да подбира какво публикува или споделя, различни масиви от данни могат да бъдат анализирани съвместно и да доведат до заключения, които той никога не е заявявал пряко.

Затова Consumers International настоява защитата да бъде заложена още при проектирането и внедряването на технологиите, вместо да се разчита единствено на индивидуалната бдителност.

Повече от 30 организации и институции са се присъединили към международната инициатива, посочват от организацията. Кампанията цели да обедини правителства, регулатори, компании и граждански организации около общи принципи за защита на личните данни.

Асоциация „Активни потребители“ подкрепя инициативата и призовава за прилагане на препоръките в интерес на българските граждани.

Повече информация за кампанията и нейните шест принципа е публикувана в документа на Consumers International.

илюстрация: генерирана с помощта на изкуствен интелект