AI видеонаблюдение без злоупотреби: урокът от училищата

Скритите камери в тоалетни на училище в София не са просто „скандал от новините“. Те са болезнен урок как една система за сигурност може да се превърне в система за злоупотреба, когато няма прозрачност, контрол и ясни технически бариери срещу човешкия фактор. Реакцията в район „Люлин“ – разпоредена проверка и одит на видеонаблюдението във всички училища – е правилна стъпка. Но тя идва след като щетата вече е нанесена.

Ето къде става още по-интересно за серията ни „Изкуствен интелект в образованието и EdTech“: същият проблем – конфиденциалност, достъп до чувствителни данни, риск от вътрешни злоупотреби – е ежедневие и в здравеопазването. Разликата е, че в болници и лаборатории вече има работещи подходи как AI и автоматизираният контрол могат да ограничат нарушенията, вместо да разчитаме само на доверие и периодични проверки.

Тази статия разглежда какво всъщност се чупи, когато видеонаблюдението се управлява „на ръка“, и как AI мониторингът, правилно внедрен, може да пази хората – включително деца и пациенти – без да ги превръща в обекти на наблюдение.

Какво показва случаят: провал на управление, не на технология

Видеокамерите сами по себе си не са „зли“. Провалът идва от липсата на управленски и технически предпазители: кой е поръчал, кой е монтирал, кой има достъп, къде се пазят записите, колко време, кой одитира системата и как се доказва, че не се снима там, където е забранено.

Конкретният случай с открити скрити камери в училищни тоалетни и последвалото прокурорско обвинение е екстремен пример. Но моделът е познат: когато една организация няма процеси, разчита на „стандартна практика“ и устни договорки, видеонаблюдението лесно става непрозрачно.

Районната проверка в „Люлин“ изисква от директорите „пълна и подробна информация“ за системите – как са изградени, как са съгласувани и дали отговарят на закона. Това е базата. Реалният въпрос е: как да направим така, че следващият път проблемът да се засече преди да стане престъпление?

„Човешкият фактор“ е рискът, който всички подценяват

Най-честият провал не е, че няма правила, а че:

• правилата не са превърнати в технически ограничения
• достъпът не е минимизиран (твърде много хора „могат да влязат“)
• няма независим лог и одит кой какво е гледал и свалял
• няма автоматични аларми при аномалии

В училищата това е критично заради децата. В здравеопазването – заради медицинските данни, които са сред най-чувствителните лични данни изобщо.

Как AI може да намали злоупотребите (и защо това не е „повече наблюдение“)

Правилно използван, AI за сигурност не означава „повече камери“. Означава по-малко възможности някой да злоупотреби, защото системата е проектирана така, че да предотвратява, а не само да записва.

Ето 4 практични механизма, които вече са реалистични и за училища, и за лечебни заведения.

1) Автоматична детекция на забранени зони и „privacy masking“

Ключов принцип: в определени пространства камерата не трябва да вижда нищо идентифицируемо. Това може да се изпълни технически чрез:

• фиксирани „зони за неприкосновеност“ (privacy zones)
• автоматично замъгляване на лица/тела в кадър
• блокиране на запис, ако камерата бъде насочена към забранена зона

При по-умни системи AI може да разпознава, че обективът е „преместен“ или че кадърът вече включва забранено пространство и да задейства аларма.

Важно: това не замества закона и етиката. То ги прави трудни за заобикаляне.

2) AI за детекция на нежелани действия и аномалии, вместо постоянно гледане

Най-лошият модел е човек да „следи“ видеото. Това създава изкушения, умора, пропуски и огромен риск от злоупотреба.

По-добрият модел е:

• видеото да се обработва локално (on-device)
• да се генерират само аларми при конкретни събития (напр. нерегламентирано влизане в помещение извън работно време, насилие, вандализъм)
• операторът да вижда ограничена информация, достатъчна за реакция

Това е аналогично на подход в здравеопазването, където AI подпомага триажа и сигнализира за риск (например при рязка промяна в жизнени показатели), вместо медицинският екип да „гледа екрани“ непрекъснато.

3) Неподправяем одит: кой е гледал, свалял и споделял

Ако има една мярка, която бих наложил задължително при видеонаблюдение в публични институции, тя е строг одит на достъпа:

• индивидуални акаунти (никакви общи пароли)
• логове на всяко действие: преглед, експорт, споделяне
• аларми при масово теглене/експорт
• периодичен независим преглед на логовете

Това е директен „мост“ към здравеопазването: при електронни досиета и PACS системи (образна диагностика) одитът на достъп е стандартът, защото без него поверителността е само лозунг.

4) Автоматична проверка на съответствие (compliance-by-design)

Проверките след скандал са реактивни. AI и автоматизацията позволяват постоянна проверка:

• списък на всички камери + точни локации
• конфигурации (резолюция, ъгъл, време на запис)
• политики за съхранение (напр. 7/14/30 дни)
• автоматични известия при промяна на настройките

Така „непрозрачността“ става много по-трудна.

Къде минава етичната граница в EdTech и защо е толкова лесно да я прекрачим

В образованието постоянно говорим за персонализирано обучение, анализ на резултати, дигитални платформи и сигурност в училище. Всичко това е част от EdTech. Но когато към него добавим сензори, камери и автоматични системи, границата между „грижа“ и „контрол“ става тънка.

Етичният минимум за училищна среда е ясен:

• целта трябва да е конкретна (сигурност), не обща („да следим“)
• минимизация на данните: записва се най-малкото нужно
• прозрачност: кой, къде, защо, колко време
• силни ограничения на достъпа
• независим одит и механизъм за сигнализиране

Моят опит е, че повечето институции правят обратното: първо купуват техника, после търсят „как да я узаконят“. Това е рецепта за скандал.

„Сигурност“ без доверие е провалена сигурност

Случаят с училищните тоалетни удря най-важното: доверие. Родители, ученици и учители започват да приемат всяка камера като заплаха, дори когато е поставена законно – например на вход, във двор, по коридори.

Затова е жизнено важно след подобни случаи институциите да не се ограничат до „проверка“, а да изградят модел на доверие чрез дизайн: правила + технологии + публична отчетност.

Какво може да научи здравеопазването (и какво училищата могат да вземат от болниците)

Здравеопазването не е безгрешно. Но има две практики, които образованието може да заеме директно.

1) Ролеви достъп и принцип „най-малка необходимост“

В болница не всеки вижда всичко. Лекарят вижда едно, регистратурата друго, администраторът трето. При видеонаблюдение в училище логиката трябва да е същата:

• директорът не е задължително да има пълен достъп до всички записи
• охраната не трябва да може да експортира видеа
• външна фирма за поддръжка не трябва да има постоянен достъп

2) Инцидентна реакция по протокол, не „на усет“

Когато има сигнал за нарушение, трябва да има ясен протокол:

1. кой приема сигнала
2. как се запазват доказателства (без да се копират хаотично)
3. кой има право да прегледа записите
4. как се документира всяко действие
5. кога се уведомяват компетентни органи

AI може да подпомогне този процес, като автоматизира логовете, алармите и контрола на експорта.

Практичен чеклист: как да оцените видеонаблюдението в училище или клиника

Ако сте директор, ИТ мениджър, администратор в лечебно заведение или представител на обществен съвет, тези 10 въпроса ще ви покажат за 30 минути къде са най-големите рискове:

1. Има ли актуална карта на всички камери и точните им позиции?
2. Кой има достъп и има ли индивидуални акаунти (без общи пароли)?
3. Има ли логове на преглед/експорт и кой ги преглежда периодично?
4. Какъв е срокът за съхранение на записите и спазва ли се автоматично?
5. Може ли някой да експортира видео без второ одобрение?
6. Има ли техническо блокиране/маскиране за зони с висок риск за лични данни?
7. Как се процедира при промяна на конфигурации – има ли известия и одит?
8. Къде се съхраняват записите – локално, в облак, криптирани ли са?
9. Има ли договорни изисквания към външни фирми (поддръжка) за достъп и отчетност?
10. Има ли канал за сигнализиране и защита на подателя на сигнал?

Ако на 3 или повече от тези въпроси отговорът е „не знаем“ – проблемът не е в камерите. Проблемът е в управлението.

Следващата стъпка: AI като „втори чифт очи“ за прозрачност

Проверката в „Люлин“ е добър сигнал, защото признава очевидното: системите за видеонаблюдение не са просто техника, а инфраструктура за доверие. И когато доверието се счупи, цената се плаща дълго.

Ако трябва да избера един принцип, който свързва училищата и здравеопазването, той е този: личните данни са безопасни само когато достъпът е измерим и проверим. AI може да помогне именно тук – чрез автоматични аларми за аномалии, неизтриваеми одит следи и вградена защита на конфиденциалността.

Ако планирате нова система за видеонаблюдение или искате да „приведете в ред“ текущата, най-смисленото начало е оценка на риска и дизайн на политики, преди да купувате още устройства. При правилен подход AI не прави средата „по-наблюдавана“. Прави я по-защитена.

Къде според вас трябва да е границата: кои случаи оправдават видеонаблюдение с AI анализ и кои никога не бива да се допускат – независимо от обещанията за сигурност?