የትምህርት AI ፍትሃዊነት፡ ባያስ የሚገባበት ጊዜ

ብዙ ት/ቤቶችና ዩኒቨርሲቲዎች የተማሪ አደጋ መተንበያ (ለምሳሌ “ኮርስ ሊያቋርጥ ይችላል”, “ውጤቱ ሊወርድ ይችላል”) የሚሉ ሞዴሎችን እየጨመሩ ነው። እውነቱ ግን አንድ ነው፤ ትንበያ ትክክል መሆን ብቻ በቂ አይደለም—ፍትሃዊ መሆን አለበት። ምክንያቱም ባያስ ያለበት ሞዴል የሚያሳየው ምናልባት የተማሪ ችግኝ ሳይሆን የስርዓቱ ብልሹነት ሊሆን ይችላል።

ይህ ጉዳይ በ2025 መጨረሻ በተለይ ይከብዳል፤ ብዙ ትምህርት ተቋማት የAI መሣሪያዎችን ወደ ምዘና፣ የተማሪ ድጋፍ፣ ስልጠና እና የኮርስ አስተዳደር ለማገባት ዕቅዶችን እያጠናከሩ ነው። እኔ የማየው ነገር ይህ ነው፤ AI በትምህርት ዘርፍ ሲገባ የመጀመሪያው ጥያቄ “ምን ይተንብያል?” ሳይሆን “ማንን ይጎዳ ይሆን?” መሆን አለበት።

ከቅርብ ምርምር መልዕክት (በትምህርት ትንበያ ትንታኔ ውስጥ ባያስ መግባት መቼ እና እንዴት እንደሆነ እና እንዴት እንደሚቀነስ) ተነስቼ ይህን ጽሑፍ አዘጋጅቻለሁ። የምታገኙት ነገር ቀላል ነው፤ ባያስ የሚሰርጥበትን መንገድ ማወቅ፣ ተመጣጣኝ የመቀነሻ (debiasing) እርምጃዎችን መምረጥ፣ እና ት/ቤት ወይም የስልጠና ተቋም በተግባር የሚፈጽሙትን የፍትሃዊነት መርሀ ግብር።

ባያስ በየት ይገባል? (መልስ፦ በሶስት ደረጃዎች)

ባያስ ብዙ ጊዜ ሞዴሉ ከሚሰራበት በፊት ይጀምራል—ከዳታ እስከ መለኪያ እና እስከ ውሳኔ መንገድ ድረስ በሙሉ ሰንሰለት ላይ ይገባል። በትምህርት ዘርፍ የተለመዱ ሶስት መግቢያዎች እነዚህ ናቸው።

1) ዳታ ሲሰበሰብ እና ሲወክል (Representation Bias)

የLMS መግቢያ ብዛት፣ የኮርስ ቪዲዮ ቆይታ ጊዜ፣ የኪውዝ ውጤት—እነዚህ ሁሉ የ“መማር” ምልክቶች ናቸው። ግን ሁሉም ተማሪ በእኩል ሁኔታ አይታዩም። ለምሳሌ፦

• ኢንተርኔት የሚቋረጥባቸው ተማሪዎች በLMS ላይ “አትገባም” እንደሚመስሉ ሊታዩ ይችላሉ።
• በስራ እና ቤት ኃላፊነት ምክንያት ሌሊት ብቻ የሚማሩ ተማሪዎች የ“ተሳትፎ” መለኪያ ላይ ሊጎዱ ይችላሉ።

ይህ ሁኔታ ሞዴሉን ከመጀመሪያው ያጣምማል። ዳታው እንደ እውነታ ሲቆጠር የተማሪ ሁኔታን ሳይሆን የመዳረሻ ጉድለትን ይመስላል።

2) መለኪያ እና መልክዓ-ባህሪ ሲመረጥ (Measurement/Feature Bias)

የምንለካው ነገር የምንወስነውን ይመራዋል። ት/ቤት “ተማሪ የሚያስቸግር ነው” ለማለት የሚጠቀሙት መለኪያ ምንድን ነው? አንዳንድ ጊዜ በቀላሉ የሚለካ ነገር እንደ “ክሊክ” ወይም “ቆይታ” ተመርጦ ይመጣል፤ ነገር ግን እሱ ትምህርት እውቀት አይደለም።

ይህ የሚፈጥረው ችግኝ ሁለት ነው፦

• ሞዴሉ ለመማር ቅርብ የሆነ ምልክት እንጂ ትክክለኛ ምልክት አያይዝም።
• ከቡድኖች መካከል ተለያዩ የቴክኖሎጂ መጠቀም ልምዶች ስለሚኖሩ አንዳንድ ቡድኖች በቀጥታ ይጎዱ ይችላሉ።

3) ሞዴል ሲሰራ እና ሲወሰን (Algorithm & Decision Bias)

አንዳንድ ትንበያ ሞዴሎች በአጠቃላይ ትክክለኛ ሊሆኑ ይችላሉ፤ ግን በአንዳንድ ቡድኖች ላይ ብቻ በስህተት መጠን ከፍ ሊሆን ይችላል። ከዚያ በላይ፣ ት/ቤት የሚያደርገው እርምጃ ነገሩን ያባብሳል፤ ለምሳሌ “ከፍተኛ አደጋ” ተብሎ የተለየ ተማሪ ከተጨማሪ መከታተያ ይልቅ ከእድሎች ቢገፋ ፍትሃዊነት ይጠፋል።

አጭር ሐሳብ: “እንደ እውነት የሚመስል ዳታ” አይሆንም፤ ብዙ ጊዜ የስርዓት ሁኔታን ብቻ ይመዘግባል።

ፍትሃዊነት ሲባል በትምህርት ምን እንማለታለን?

ፍትሃዊነት አንድ ነጠላ መለኪያ አይደለም። በትምህርት ትንበያ ትንታኔ ውስጥ ብዙ ጊዜ ሶስት አይነት ጥያቄዎች ይኖራሉ፦

1. እኩል ዕድል (Equal Opportunity): በእውነት እርዳታ የሚፈልጉ ተማሪዎች ሁሉ በእኩል መጠን እንዲታወቁ እንፈልጋለን?
2. የስህተት ሚዛን (Error Balance): ለአንዳንድ ቡድኖች ብቻ ብዙ የሐሰት ማንቂያ (false positive) ወይም የሐሰት መዝጋት (false negative) እንዳይኖር?
3. ውሳኔ ፍትሃዊነት (Decision Fairness): ትንበያው ከተደረገ በኋላ የሚከተለው እርምጃ ለሁሉም ተማሪ የሚጠቅም ነው?

ብዙ ድርጅቶች እዚህ ላይ ይሳሳታሉ። ሞዴል እንዲሰራ ይፈልጋሉ፤ ነገር ግን እንዲፈትሕ አያዘጋጁትም።

ባያስን ለመቀነስ የሚሰሩ ዘዴዎች (Debiasing)፦ ከመጀመሪያ እስከ መጨረሻ

በትምህርት መተንበያ ስርዓት ላይ የባያስ መቀነስ ማለት አንድ ቦታ ላይ የሚደረግ ማስተካከያ አይደለም—እንደ እንቁላል ምግብ ነው፣ ከመጀመሪያ እስከ መጨረሻ ትክክል ማብሰል ይፈልጋል። በተግባር ዘዴዎች በሶስት ክፍል ይመደባሉ።

1) የቅድመ-ሞዴል እርምጃዎች (Pre-processing)

መጀመሪያ ዳታውን አስተካክሉ። ይህ በት/ቤት እና በስልጠና ተቋማት በፍጥነት ሊፈጽሙት የሚችሉት ነው።

• የቡድን ሚዛን መፍጠር: ከተወሰኑ ቡድኖች እጥረት ካለ ተጨማሪ ናሙና አስገቡ (oversampling) ወይም ከበዛ ቦታ አሳንሱ (undersampling)።
• ማጣት/ክፍተት ዳታ ምክንያት ማስረጃ: ምን ምክንያት እንደጠፋ መጻፍ (ለምሳሌ ኢንተርኔት ችግኝ በወራት ውስጥ) እና በቡድን መለያ ማብራራት።
• Proxy መለኪያ ማጥፋት/ማስተካከል: የአካባቢ ኮድ፣ የመሳሪያ አይነት ወይም በተዘዋዋሪ ሁኔታ ማህበራዊ-ኢኮኖሚ ሁኔታን የሚያመለክቱ መለኪያዎች በጥንቃቄ መጠቀም።

2) የሞዴል ውስጥ እርምጃዎች (In-processing)

ሞዴሉን ሲያስተምሩ ፍትሃዊነትን እንደ ግብ ያስገቡ። በተለምዶ ይህ ሁለት ነገር ያደርጋል፦ ትክክለኛነትን (accuracy) እና ፍትሃዊነትን (fairness) በአንድ ጊዜ እንዲመዘኑ ያደርጋል።

• ፍትሃዊነት መገደብ (constraints): ለቡድኖች መካከል የስህተት ልዩነት እንዳይበዛ መገደብ ማስገባት።
• አስተማማኝ ትርጓሜ (interpretability): ት/ቤት የሚሰራ ሞዴል ለመካከለኛ ደረጃ ተጠቃሚ ሊታወቅ አለበት፤ “ለምን ከፍተኛ አደጋ ተብሎ ተመዘነ?” የሚለው መልስ ይፈልጋል።

3) የኋላ-ሞዴል እርምጃዎች (Post-processing)

በመጨረሻ የውሳኔ መደበኛ ሂደትን አስተካክሉ። ሞዴሉ የሰጠው ውጤት ማለት የሰው ውሳኔ መተካት አይደለም።

• Threshold በቡድን መስተካከል: ለተለያዩ ቡድኖች የማንቂያ መጠን ልዩ እንዲሆን በፖሊሲ መወሰን (ከፍተኛ ጥንቃቄ ይፈልጋል)።
• እርምጃ መርሀ ግብር መግለጽ: “ከፍተኛ አደጋ” ሲባል መቅጣት ሳይሆን የእርዳታ እርምጃ መሆን አለበት—ተጨማሪ ማስተማር፣ መንቀሳቀስ ባለሙያ ምክር፣ የጊዜ እቅድ ድጋፍ ወዘተ።

ት/ቤት ወይም የስልጠና ተቋም ሊጀምርበት የሚችለው ተግባራዊ እቅድ

መልስ፦ ፍትሃዊነት ኦዲት + ትክክለኛ እርምጃ + ቀጣይ ክትትል ብቻ ነው የሚሰራው። የምመክረው 6-እርምጃ መመሪያ እነሆ፦

1. የአጠቃቀም ግብ ግልጽ ማድረግ: ሞዴሉ ለ“ማግኘት” ነው? ወይስ ለ“መርዳት”? እኔ ግልጽ ነኝ—በትምህርት ውስጥ ትንበያ ሞዴል የመርዳት መሣሪያ መሆን አለበት።
2. የተጠበቀ ቡድኖችን መለየት: ጾታ፣ አካባቢ፣ የቋንቋ ብዛት፣ የአካል ጉዳት እና ተያያዥ መለያዎች (በሕግና በሥነ-ምግባር ወሰን ውስጥ)።
3. ከቡድን በቡድን የስህተት መጠን መለካት: የfalse positive/false negative መጠን በቡድኖች መካከል ስንት ይለያል? ይህ በሪፖርት ላይ በግልጽ መሆን አለበት።
4. እርምጃዎችን በ“ባያስ መግቢያ” መሰረት መመርጥ: ችግኙ ዳታ ላይ ከሆነ ዳታ ማሻሻል ያስፈልጋል፤ ችግኙ ሞዴል ላይ ከሆነ መለኪያ/ኮንስትሬንት ይጨምሩ።
5. “ሰው በሰው ላይ” መከታተያ ማቋቋም: አስተማሪ/አስተዳዳሪ የሞዴሉን ውጤት እንዲያብራራ እና እንዲያረጋግጥ ሂደት ይፈልጋል።
6. ወርሃዊ/ሴሜስተር የፍትሃዊነት ክትትል: የኮርስ አይነት በቀየረ ጊዜ ወይም የመማር መንገድ በቀየረ ጊዜ ባያስ ይመለሳል። እንግዲህ እንደ አንድ ጊዜ ፕሮጀክት አታዩትም።

አንድ ቀላል ምሳሌ፦ “ከፍተኛ አደጋ” ተማሪ በማን ላይ እየበዛ ነው?

አንድ ተቋም የኮርስ አጠናቀቅ ችግኝን ለመቀነስ ሞዴል አቋቋመ ብለን እንወስድ። ሞዴሉ የ“ከፍተኛ አደጋ” ምልክት በተወሰነ አካባቢ ተማሪዎች ላይ ብዙ እየበዛ እንደሆነ አሳየ። ማለት ተማሪዎቹ ደካማ ናቸው? ብዙ ጊዜ አይደለም። እውነቱ ሊሆን ይችላል፦

• የኢንተርኔት ጥራት ዝቅ ነው እና እንቅስቃሴ ዳታ አይሙላም።
• ኮርሱ ከአካባቢው ቋንቋ/ቅርብ ተሞክሮ ጋር አይስማማም።

እንግዲህ መፍትሄው በሞዴል ብቻ አይደለም፤ በአገልግሎት እና በኮርስ ንድፍ ውስጥ ይገኛል። AI በትምህርት ዘርፍ የሚጠቅመው ስርዓት ሲሻሻል ነው—not ተማሪ ሲፈረድ።

በ2026 ወደ ፊት እየታየ ያለው፦ ፍትሃዊ AI እንደ የጥራት መመዘኛ

መልስ፦ ፍትሃዊነት በቅርቡ እንደ “የጥራት መደበኛ” ይቆጠራል። በተለይ የተማሪ ድጋፍ እና የስልጠና ፕሮግራሞች በAI እየተመሩ ሲሄዱ፣ ተቋማት የሚያሳዩት ማስረጃ ይለዋወጣል፦

• “ሞዴሉ ስንት ትክክለኛ ነው?” ብቻ አይደለም
• “ማን ላይ ይሳሳታል?” እና “ይህን ስህተት እንዴት ተቆጣጠርን?” ይሆናል

ይህ ለ“አርቲፊሻል ኢንተሊጀንስ በትምህርትና በስልጠና ዘርፍ” ተከታታይ ይዘታችን መሠረት ነው፤ የግል የመማሪያ መንገድ ማበጀት እና የተማሪ ድጋፍ ማሻሻል እንፈልጋለን ከሆነ፣ ፍትሃዊነት አይታለፍም።

ቀጣይ እርምጃዎች፦ የትምህርት ትንበያ እንዲረዳ እንጂ እንዳይጎዳ

የምርምር መልዕክቱ ግልጽ ነው፤ ባያስ መቼ እንደሚገባ ሲታወቅ የመቀነሻ ዘዴ ይገባ ይሆናል። አንዳንድ ቦታ ዳታ ማሻሻል ይበቃል፤ ሌላ ቦታ የሞዴል ውስጥ መገደብ ያስፈልጋል፤ እና ብዙ ጊዜ የሚያስፈልገው የውሳኔ ፖሊሲ ማሻሻል ነው።

የምትጀምሩት ከአንድ ነገር ይሁን፦ “ይህ ሞዴል የሚያነሳው ማንቂያ እርዳታ ያመጣል ወይስ ቅጣት?” እርዳታ ካልሆነ እኔ ብቻ አልሆንም—ብዙ ሰዎች አይቀበሉትም። እና ይሄ መልካም ነው።

አንድ አስተሳሰብ ለመውሰድ፦ በተቋማችሁ ውስጥ “ከፍተኛ አደጋ” ተብሎ የሚገለጽ ተማሪ ከሆነ፣ በመጀመሪያ የምታደርጉት እርምጃ ምን ነው—መከታተል እና መደገፍ ወይስ መግፋት?