AI roboti i bezbednost: lekcije za industriju Srbije

Dva incidenta u Čikagu, u razmaku od svega nekoliko dana: roboti za dostavu udaraju u staklene panele autobuske nadstrešnice i ostavljaju krhotine po trotoaru. Brzina im je oko 8 km/h, dakle ne govorimo o “jurcanju” mašina, već o tome koliko mala greška u percepciji i kretanju može da napravi realnu štetu u javnom prostoru.

Za Srbiju je ova priča korisna baš zato što je neprijatna. Dok kod nas sve više kompanija razmatra AI automatizaciju u logistici, uvođenje autonomnih vozila/AGV sistema u halama ili robota u skladištima, najčešća greška je ista: planira se efikasnost, a bezbednost i upravljanje rizikom ostanu kao “stavka koju ćemo rešiti kasnije”. Neće. Ako bezbednost ne dizajnirate od starta, platićete je kroz kvarove, zastoje, reklamacije, povrede ili reputacionu štetu.

Ovaj tekst je deo serijala „Kako veštačka inteligencija transformiše proizvodnju i industriju u Srbiji“ i koristi čikaški incident kao praktičan okvir: kako se ovakve situacije prepoznaju, sprečavaju i kako se AI uvodi pametnije—u proizvodnji i industrijskoj logistici.

Šta se stvarno desilo u Čikagu (i zašto je to bitno)

Direktna pouka: incidenti sa autonomnim sistemima retko imaju jedan uzrok; skoro uvek su to “rupe” u dizajnu, testiranju, okruženju i procedurama.

Prema izveštaju, u Čikagu su se dogodila dva slična sudara: jedan robot kompanije Koko, drugi robot kompanije Serve Robotics. Oba slučaja završila su razbijenim staklom na autobuskim stajalištima. Kompanije su pokrenule interne istrage i izbegle spekulacije o uzroku.

Ono što je interesantnije od samog sudara je reakcija javnosti: gradski odbornik je blokirao širenje usluge, a pominje se istraživanje po kom se više od 80% stanovnika protivi prisustvu robota u tom delu grada. To je ključno za svaku industriju: socijalna dozvola za rad (poverenje radnika, kupaca, regulatora) može preko noći da postane usko grlo.

Za srpske firme, “Čikago” je metafora za svako realno okruženje: promenljivo, često neidealno, puno neočekivanih prepreka i ljudi koji ne žele da budu beta-testeri.

Mit koji koči industriju: „U hali je lakše nego na ulici“

Da, lakše je—ali samo ako ste disciplinovani. U proizvodnji i skladištima je okruženje kontrolisanije nego gradski trotoar. Ipak, najskuplji problemi nastaju kad se ta kontrola pretpostavi, umesto da se dokaže.

Tipične situacije koje “liče” na čikaško razbijeno staklo, samo u industriji:

• AGV/AMR (autonomna kolica) zakače zaštitnu ogradu, regale ili staklene pregrade u kancelarijskim zonama pogona.
• Robot “vidi” refleksiju ili providnu prepreku (staklo, folija, pleksiglas) kao prolaz.
• Sistem radi odlično u testnoj zoni, a pada kad se promeni rasveta, raspored paleta ili kad se pojave privremene prepreke.
• Ljudi počnu da “pomažu” robotu (guraju ga, pomeraju mu put) i tako razbiju pretpostavke na kojima je algoritam treniran.

Najčešći zaključak posle incidenta je pogrešan: “Senzori nisu dovoljno dobri.” Češće je istina ova: proces nije dovoljno dobar.

Providne prepreke su poznata klasa problema

Staklo, pleksiglas i reflektujuće površine su poznato teške za određene kombinacije senzora (posebno ako se oslanjate na jednu vrstu percepcije). U industriji se to rešava slojevito:

1. Redundantna percepcija (npr. kombinacija LiDAR + kamera + ultrazvuk, gde ima smisla)
2. Geofencing i semantičke mape (zona “nikad ne prilazi” oko osetljivih objekata)
3. Brzinsko ograničenje po zoni (ne jedna maksimalna brzina, nego “politike kretanja”)
4. Fizička zaštita (bollards, odbojnici, zaštitne ograde oko krhkih tačaka)

Ako vam je zaštita poslednja stavka, već ste zakasnili.

Kako da uvedete AI i robotiku u Srbiji bez incidenta

Odgovor u jednoj rečenici: uvedite AI kroz sistem upravljanja rizikom, ne kroz listu funkcionalnosti.

Ovo je praktičan okvir koji sam viđao da radi u proizvodnim i logističkim timovima (posebno kad postoji pritisak da se „što pre pusti u rad“).

1) Definišite “bezbedno ponašanje” pre nego što kupite rešenje

Pre RFP-a i ponuda, napišite “pravila ponašanja” sistema:

• maksimalna brzina po zoni (pešačke zone, raskrsnice unutar skladišta)
• minimalna udaljenost od ljudi i opreme
• šta je dozvoljeno u slučaju nejasne situacije (fail-safe: stani, pozovi operatera)
• kako se sistem ponaša kad izgubi signal, mapu ili detekciju

Ovo deluje dosadno, ali sprečava najskuplji scenario: da kupite sistem koji je “brz” i “pametan”, ali ne može da se uklopi u vaša pravila.

2) Testirajte kao da želite da ga “slomite”

Industrija često testira da dokaže da nešto radi. Vi morate da testirate da dokažete gde ne radi.

Praktični testovi (pre produkcije):

• promena osvetljenja (dan/noć, jaki reflektori, senke)
• prašina i prljavština na senzorima
• staklene i reflektujuće površine u putanji
• “loš dan” scenariji: gužva, privremene palete, radovi
• namerna konfuzija: trake, folije, providne barijere

Ako sistem prolazi samo “idealne” testove, u realnosti je na staklenim nogama.

3) Uvedite jasnu ulogu čoveka: ko je odgovoran kad AI pogreši

Čikaški incident je završio tako što su prolaznici čistili krhotine. U firmi to ne sme da bude improvizacija.

Uvedite RACI za autonomne sisteme:

• Owner (poslovno odgovoran)
• Safety owner (bezbednosno odgovoran)
• Ops lead (operativno odgovoran)
• Vendor contact (SLA, eskalacije)

I obavezno: proceduru za incident response (šta radimo u prvih 15 minuta, ko stopira sistem, ko dokumentuje).

4) Obuka nije “jedan trening” nego rutina

Ako uvodite AI u proizvodne procese, ljudi moraju da znaju dve stvari:

• kako da rade efikasno uz sistem
• kako da ga ne pokvare “dobrom namerom”

Dobar program obuke obično uključuje:

• kratke, ponovljive mikro-treninge (15–20 min)
• jasne zabranjene radnje (npr. guranje robota)
• “šta ako” scenarije za smene
• kanal za prijavu anomalija bez krivice

Najbrži način da izgubite poverenje radnika je da uvedete robota, a onda okrivite operatera kad robot uradi nešto čudno.

Gde je AI u Srbiji najisplativiji u industriji (bez robota na trotoaru)

Ne morate krenuti od autonomnih mašina da biste dobili efekat. U Srbiji mnoge firme brže dobiju ROI kada AI prvo primene na “nevidljive” delove sistema.

AI u proizvodnji: kontrola kvaliteta i prediktivno održavanje

• Vizuelna kontrola kvaliteta (kamere + modeli) za detekciju grešaka na liniji
• Prediktivno održavanje na osnovu vibracija, temperature, struje motora
• Optimizacija parametara procesa (npr. smanjenje otpada u pakovanju, varijacija u serijama)

Prednost: manji rizik po ljude i infrastrukturu, a velike uštede kroz manje zastoja i škarta.

AI u logistici: planiranje, slotting i smanjenje praznih hodova

• optimizacija ruta unutar skladišta
• pametno pozicioniranje robe (slotting) da se smanje kilometri viljuškara
• predikcija potražnje i bolje planiranje smena

Tek kad ove stvari rade stabilno, ima smisla podizati autonomiju na fizički sloj (AMR/AGV).

Jedna dobra praksa: uvedite AI prvo kao “savetnika” (decision support), pa tek onda kao “izvršioca” (autonomno kretanje/akcije).

Brza Q&A: pitanja koja će vam postaviti direktor i HSE

Da li autonomni sistemi uopšte mogu biti bezbedni?

Da—ako su projektovani sa fail-safe principom (radije stani nego rizikuj), redundantnim senzorima gde treba, i jasnim zonama/ograničenjima.

Da li je problem u AI-u ili u implementaciji?

U praksi, skoro uvek u implementaciji: loše definisani zahtevi, slab test-plan, nejasne odgovornosti i nedovoljna obuka.

Šta je prvi korak za srpsku fabriku koja želi AI?

Izaberite 1–2 procesa sa jasnim KPI (škart, zastoji, OEE, vreme ciklusa) i napravite pilot sa planom testiranja i bezbednosti pre skaliranja.

Šta Srbija može da nauči iz Čikaga—pre nego što bude kasno

Čikaški snimci su viralni jer su konkretni: razbijeno staklo, ljudi u čudu, kompanije u istrazi. U industriji su incidenti često tiši—ali skuplji. Zastoj linije od nekoliko sati, oštećen regal, povreda u skladištu ili povlačenje serije zbog greške u kvalitetu košta više nego što izgleda na papiru.

Ako uvodite veštačku inteligenciju u proizvodnji ili AI automatizaciju u logistici u Srbiji, stavite bezbednost i kontrolu kvaliteta u isti koš sa efikasnošću. Ne kao “compliance”, nego kao dizajn princip. To je razlika između pilot-projekta koji ostaje demo i sistema koji postaje standard.

Ako biste sutra pustili autonomni sistem u vaš pogon: koja je jedna krhka tačka (staklo, ljudi, regali, raskrsnice) na kojoj biste očekivali prvi incident—i šta danas možete da uradite da ga sprečite?