sections
MORE

നഗ്ന ചിത്രങ്ങൾ പ്രദർശിപ്പിക്കുന്നവരെ കണ്ടെത്താൻ ഫെയ്സ്ബുക്കിന് നിർമിത ബുദ്ധി

adult-sites
SHARE

തന്റെ നഗ്ന ശരീരത്തില്‍ കുട്ടികളെക്കൊണ്ടു ചിത്രം വരപ്പിച്ച ആക്റ്റിവിസ്റ്റ് രഹ്ന ഫാത്തിമയുടെ ഫോട്ടോകളും വിഡിയോയും സമൂഹ മാധ്യമങ്ങള്‍ വഴി പ്രചരിച്ചു. ഇതേ ചിത്രങ്ങളും മറ്റും ഫെയ്‌സ്ബുക്കിലും പോസ്റ്റു ചെയ്തുവെങ്കിലും അവ പെട്ടെന്നു തന്നെ നീക്കം ചെയ്യെപ്പെട്ടു എന്നാണ് റിപ്പോര്‍ട്ട്. ഇതെങ്ങനെ നടന്നിരിക്കാം? ഇവിടെ ഫെയ്‌സ്ബുക് മേധാവി മാര്‍ക്ക് സക്കര്‍ബര്‍ഗിന്റെ പ്രസ്താവന വാസ്തവമാകുകയായിരുന്നു എന്നുവേണം കരുതാന്‍. ഇന്ന് ഫെയ്‌സ്ബുക്കിന്റെ പേജുകളില്‍ പോസ്റ്റു ചെയ്യപ്പെടുന്ന ചിത്രങ്ങളും മറ്റും പരിശോധിക്കുന്നത് കൂടുതല്‍ ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ ചുമതലായി തീരുകയാണ്. സക്കര്‍ബര്‍ഗ് 2018ല്‍ പറഞ്ഞത് മാറിടം നഗ്നമായി പ്രദർശിപ്പിക്കുന്നത് കണ്ടെത്താനുള്ള ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് നിര്‍മിക്കുക എന്നത് വിവിധ ഭാഷകളില്‍ വരുന്ന വിദ്വേഷ പ്രസംഗങ്ങള്‍ കണ്ടെത്തുന്നതിനേക്കാള്‍ എളുപ്പമാണ് എന്നാണ്. രഹ്നയുടെ കാര്യത്തില്‍ എഐ അതിനെ ഏല്‍പ്പിച്ച പണി കൃത്യമായി ചെയ്യുകയായിരുന്നു എന്നു വേണം അനുമാനിക്കാന്‍.

അനുനിമിഷം വളരുന്ന സമൂഹ മാധ്യമ വെബ്‌സൈറ്റില്‍ എന്തെല്ലാം പോസ്റ്റു ചെയ്യപ്പെടുന്നു എന്ന കണ്ടെത്തുക സക്കര്‍ബര്‍ഗിന് എളുപ്പമുള്ള കാര്യമല്ല എന്നു പറയേണ്ട കാര്യമില്ലല്ലോ. ഇതുവരെ പല രാജ്യങ്ങളിലെ നിയമങ്ങളും സമൂഹ മാധ്യമങ്ങളില്‍ നടത്തുന്ന പോസ്റ്റുകള്‍ക്ക് അതിന്റെ നടത്തിപ്പുകാര്‍ ഉത്തരവാദികളല്ല എന്ന നിലപാടാണ് സ്വീകരിച്ചു വന്നത്. എന്നാല്‍, അമേരിക്ക അടക്കമുള്ള രാജ്യങ്ങള്‍ ഇതു സമീപഭാവിയില്‍ തന്നെ തിരുത്തിയേക്കും. അപ്പോള്‍ ഫെയ്‌സ്ബുക് എന്തു ചെയ്യും?

ഫെയ്‌സ്ബുക്കിന് ഇതിനെതിരെ രണ്ടു പ്രതിവിധികളാണ് പ്രധാനമായും ഉള്ളത്- ഒന്ന് വിവിധ രാജ്യങ്ങളിലായി നിയമിച്ചിരിക്കുന്ന ഫെയ്‌സ്ബുക് മോഡറേറ്റമാരുടെ പ്രവര്‍ത്തനം. ആയിരിക്കണക്കിന് ജോലിക്കാരാണ് അനുചിതമായ പോസ്റ്റുകള്‍ കണ്ടെത്തി നീക്കം ചെയ്യാനായി ഫെയ്‌സ്ബുക്കിനു വേണ്ടി ജോലി ചെയ്യുന്നതും ചെയ്തിരിക്കുന്നതും. കൊലയും, ചോരയും, നഗ്നതയും, ബലാത്സംഗവും, ലൈവ് ആത്മഹത്യയും എന്നുവേണ്ട എല്ലാത്തരം കണ്ടെന്റും ഇത്തരക്കാരുടെ മുന്നിലെത്തുന്നു. ഈ ജോലിയെടുത്തിരുന്ന പതിനായിരക്കണക്കിന് ആളുകള്‍ ഇപ്പോള്‍ ഫെയ്‌സ്ബുക്കിനെതിരെ കേസു കൊടുത്തിരിക്കുകയാണ്. ഇതെല്ലാം കണ്ടുകണ്ട് തങ്ങളുടെ മനസിന്റെ സമനില തെറ്റിയെന്നാണ് അവര്‍ പറയുന്നത്. അപ്പോള്‍ ഇനി അധികകാലം മനുഷ്യരുടെ സേവനം സ്വീകരിക്കാന്‍ സാധ്യമല്ലെന്ന തിരിച്ചറിവാണ് ഫെയ്‌സ്ബുക്കിനും. അവരിപ്പോള്‍ രണ്ടാമത്തെ സാധ്യതയ്ക്കാണ് കൂടുതല്‍ പ്രാധാന്യം കല്‍പ്പിക്കുന്നത്- ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിനെ ആശ്രയിക്കുക എന്നതാണത്.

ഫെയ്‌സ്ബുക്കിന്റെ നഗ്നത കണ്ടെത്താനുള്ള ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ പ്രവര്‍ത്തനം കൃത്യമായി നടക്കുന്നു എന്നതിന്റെ ഉദാഹരണം രഹ്നയുടെ കാര്യത്തില്‍ മാത്രമല്ല കണ്ടത്- ഈ വര്‍ഷം ജനുവരിക്കും മാര്‍ച്ചിനുമിടയ്ക്ക് ഏകദേശം 39.5 ദശലക്ഷം നഗ്ന ചിത്രങ്ങള്‍ കണ്ടെത്തി നീക്കം ചെയ്തു എന്നാണ് റിപ്പോര്‍ട്ട്. ഇവയില്‍ 99.2 രണ്ടു ശതമാനവും എഐ തന്നെയാണ് ചെയ്തത് എന്നാണ് കമ്പനി പറയുന്നത്. പ്രായപൂര്‍ത്തിയായവരുടെ നഗ്നത, ലൈംഗികത എന്നിവ കണ്ടെത്തി നീക്കം ചെയ്യാന്‍ ഫെയ്‌സ്ബുക്കിന്റെ എഐക്കുള്ള കഴിവ് ഒന്നു വേറെ തന്നെയാണെന്നാണ് പറയുന്നത്.

ചിലപ്പോള്‍, എഐക്കു തെറ്റുപറ്റാം. കലാപരവും, ബോധവല്‍ക്കരണത്തിനായി നല്‍കിയിരിക്കുന്നതു അടക്കമുള്ള കണ്ടെന്റ് നീക്കം ചെയ്തേക്കാം. ഇങ്ങനെ വരുമ്പോള്‍ കണ്ടെന്റ് അപ്‌ലോഡ് ചെയ്ത ആള്‍ക്ക് അപ്പീല്‍ നല്‍കാം. ഇങ്ങനെ നീക്കം ചെയ്തതിനെതിരെ 25 ലക്ഷം അപ്പീലുകള്‍ കമ്പനിക്കു ലഭിക്കുകയും അവയില്‍ 613,000 എണ്ണം പുനഃസ്ഥാപിക്കുകയും ചെയ്തിട്ടുണ്ട്. എന്നാല്‍, ഇത് എപ്പോഴും പിഴവില്ലാത്ത പ്രവര്‍ത്തനമല്ല കാഴ്ചവയ്ക്കുന്നത്. ചരിത്രപരമായ പെയ്ന്റിങുകളും ഫോട്ടോയും മറ്റും അപ്‌ലോഡ് ചെയ്യുമ്പോള്‍ അത് നീക്കം ചെയ്യുന്ന പതിവ് എഐക്ക് ഉണ്ട്. ഏതാനും ആഴ്ച മുൻപ് ഓസ്‌ട്രേലിയയില്‍ നിന്നുള്ള 1980കളിലെ ഒരു ചിത്രം പോസ്റ്റു ചെയ്തതിന് ഫെയ്‌സ്ബുക് ഒരു യൂസറെ സസ്‌പെന്‍ഡു ചെയ്തിരുന്നു. ഓസ്‌ട്രേലിയയില്‍ അടിമത്തം നിലനിന്നിരുന്നു എന്നു കാണിക്കാനായി പോസ്റ്റു ചെയ്ത ചിത്രം കാരണമാണ് ഈ യൂസറുടെ അക്കൗണ്ട് സസ്‌പെന്‍ഡ് ചെയ്തത്. എന്നാല്‍, തങ്ങള്‍ക്കു പറ്റിയ പിഴവു മനസിലാക്കിയ ഫെയ്‌സ്ബുക് ആ യൂസറുടെ അക്കൗണ്ട് പുനഃസ്ഥാപിച്ചു. ഇത്തരത്തിലുള്ള പല കേസുകളും ഉണ്ടാകാറുണ്ട്. ഇങ്ങനെ ചിത്രങ്ങളും മറ്റും നീക്കം ചെയ്യപ്പെടുമ്പോള്‍ ഫെയ്‌സ്ബുക്കിന്റെ നിലപാട് ശരിയല്ല എന്ന വാദവുമായി ആളുകള്‍ രംഗത്തുവരാറുണ്ട്. ഇതെല്ലാം കാണിക്കുന്നത് ഫെ്‌സ്ബുക്കിന് ഒരു മോഡറേഷന്‍ പ്രശ്‌നം ഉണ്ടെന്നു തന്നെയാണ്. എന്നാല്‍, കരാടിസ്ഥാനത്തില്‍ മോഡറേറ്റര്‍മാരെ നിയമിച്ചു പ്രവര്‍ത്തിക്കാന്‍ ശ്രമിച്ചത് പ്രശ്‌നത്തിലേക്കു ചെന്നെത്തിയെന്നാണ് കമ്പനിക്കെതിരെ മുന്‍ മോഡറേറ്റര്‍മാര്‍ നല്‍കിയ കേസുകള്‍ വിരല്‍ ചൂണ്ടുന്നത്.

എന്നാല്‍, നഗ്നതയും മറ്റും കണ്ടെത്താന്‍ ഫെയ്‌സ്ബുക്കിന്റെ എഐ വളര്‍ന്നു കഴിഞ്ഞു എന്നാണ് പുതിയ റിപ്പോര്‍ട്ടുകള്‍ പറയുന്നത്. രഹ്നയുടെ കാര്യത്തിലും അതു തന്നെയായിരിക്കണം സംഭവിച്ചത്. ഇക്കാര്യത്തില്‍ ഫെയ്‌സ്ബുക്കിന് ലഭിക്കുന്ന അപ്പീലുകള്‍ കുറഞ്ഞിരിക്കുന്നു എന്നതില്‍ നിന്നാണ് ഇതു മനസിലാക്കുന്നത്. എന്നാല്‍, വിദ്വേഷ പ്രസംഗങ്ങള്‍ എഐയുടെ ഇടപെടലിലൂടെ പറിച്ചുകളയാന്‍ സാധിക്കുന്നില്ലെന്നുളളത് കമ്പനി നേരിടുന്ന ഒരു വെല്ലുവിളിയാണ്. അതാണ് സക്കര്‍ബര്‍ഗ് പറഞ്ഞതിന്റെ സാരവും. എന്നാല്‍, വിദ്വേഷ പ്രസംഗങ്ങളുടെ കാര്യത്തില്‍ എഐ ഇപ്പോള്‍ തെറ്റു വരുത്തുന്നുണ്ടെങ്കിലും അതും ഭാവിയില്‍ നിര്‍മിത ബുദ്ധിക്കു വഴങ്ങിയേക്കുമെന്നാണ് പ്രതീക്ഷിക്കുന്നത്.

എന്നാല്‍, ഫെയ്‌സ്ബുക് പോലെയൊരു ബൃഹത്തായ സമൂഹ മാധ്യമത്തെ ഇനി ഇങ്ങനെ വിട്ടേക്കണ്ട കാര്യമില്ല. അതിനെ ചെറു കഷണങ്ങളാക്കണം എന്ന വാദമാണ് ഇപ്പോള്‍ ഉയരുന്നത്. ആക്ടിവിസ്റ്റും മാധ്യമപ്രവര്‍ത്തകനുമായ കൊറി ഡോക്ട്രോവ് ഈ വാദം മുന്നോട്ടുവയ്ക്കുന്ന പലരില്‍ ഒരാളാണ്. പ്രാദേശിക കാര്യങ്ങളിലെ ശരിതെറ്റുകള്‍ ഫെയ്‌സ്ബുക്കിന് ഇപ്പോഴും തിട്ടപ്പെടുത്താനായിട്ടില്ല. അത് പല പ്രശ്‌നങ്ങളും ഉണ്ടാക്കുന്നു എന്നാണ് ഫെയ്‌സ്ബുക്കിനെ വെട്ടിമുറിക്കണമെന്ന് ആവശ്യപ്പെടുന്നവര്‍ പറയുന്നത്. വരുംവര്‍ഷങ്ങളില്‍ ഇക്കാര്യത്തില്‍ ഒരു തീരുമാനം ഉണ്ടായേക്കും.

English Summary: Not just nipples: how Facebook's AI struggles to detect misinformation

തൽസമയ വാർത്തകൾക്ക് മലയാള മനോരമ മൊബൈൽ ആപ് ഡൗൺലോഡ് ചെയ്യൂ
MORE IN SOCIAL MEDIA
SHOW MORE
ഇവിടെ പോസ്റ്റു ചെയ്യുന്ന അഭിപ്രായങ്ങൾ മലയാള മനോരമയുടേതല്ല. അഭിപ്രായങ്ങളുടെ പൂർണ ഉത്തരവാദിത്തം രചയിതാവിനായിരിക്കും. കേന്ദ്ര സർക്കാരിന്റെ ഐടി നയപ്രകാരം വ്യക്തി, സമുദായം, മതം, രാജ്യം എന്നിവയ്ക്കെതിരായി അധിക്ഷേപങ്ങളും അശ്ലീല പദപ്രയോഗങ്ങളും നടത്തുന്നത് ശിക്ഷാർഹമായ കുറ്റമാണ്. ഇത്തരം അഭിപ്രായ പ്രകടനത്തിന് നിയമനടപടി കൈക്കൊള്ളുന്നതാണ്.
FROM ONMANORAMA