ലൈംഗിക തൊഴിലാളി, പീഡിപ്പിച്ചവൻ, രണ്ടാം തരക്കാരി... വൈറല്‍ ആപ്പിനെതിരെ പ്രതിഷേധം

സെല്‍ഫി ഫോട്ടോകൾ ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ സഹായത്തോടെ സത്യസന്ധമായി തരംതിരിക്കാമെന്നു പറഞ്ഞാണ് ഇമേജ്‌നെറ്റ് റുലെറ്റ് (ImageNet Roulette) ആപ് പുറത്തിറക്കിയത്. ആപ് ഇന്‍സ്റ്റാള്‍ ചെയ്ത ശേഷം ഫോട്ടോ ഫീഡു ചെയ്യുമ്പോള്‍ നിങ്ങളുടെ ചിത്രത്തിന് ആപ് വിവരണം നല്‍കുന്നത് 'മാനഭംഗം നടത്തിയ ആള്‍ (rapist), പീഡിപ്പിച്ചവൻ എന്നാണെങ്കില്‍ എന്തു തോന്നും?   നീഗ്രോ, കോങ്കണ്ണന്‍ തുടങ്ങി നീണ്ട ഒരു പദാവലി ഉപയോഗിച്ചാണ് പ്രിന്‍സറ്റണ്‍ യൂണിവേഴ്‌സിറ്റി പുറത്തിറക്കിയ ഈ ആപ് ആളുകള്‍ക്ക് വിവരണങ്ങള്‍ ചാര്‍ത്തിക്കൊടുക്കുന്നത്. ഉപയോക്താക്കള്‍ക്ക് എങ്ങന കലി വരാതിരിക്കും? എന്നാല്‍ അത്തരമൊരു പ്രതികരണം തന്നെയാണ് തങ്ങള്‍ ലക്ഷ്യമിടുന്നതെന്നാണ് ആപ് നിര്‍മാതാക്കള്‍ പറയുന്നത്. മെഷീന്‍ ലേണിങ്ങിന്റെ സഹായത്തോടെ ഇറക്കുന്ന പല ആപ്പുകളിലും ഇത്തരം മുന്‍വിധി ഉണ്ടായിരിക്കുമെന്ന് ഉപയോക്താക്കള്‍ക്ക് മുന്നറിയിപ്പു നല്‍കുക എന്നതാണ് തങ്ങളുടെ ലക്ഷ്യമെന്നാണ് അവര്‍ പറയുന്നത്.

ഒന്നര കോടിയോളം ഫോട്ടോകള്‍ സ്‌കാന്‍ ചെയ്ത് പഠിച്ച ശേഷം ന്യൂറല്‍ നെറ്റ്‌വര്‍ക്കുകളുടെ പ്രയോജനവും ഉള്‍ക്കൊള്ളിച്ച ആപ്പാണിതെന്നാണ് പരസ്യം. എന്നിട്ടാണ് എഐ ഈ പണി കാണിക്കുന്നത്. ആപ്പിന്റെ വിവരണം കണ്ട് തങ്ങളുടെ ഫോട്ടോയും അപ്‌ലോഡ് ചെയ്യേണ്ടി വന്നതിന്റെ വിഷമത്തിലാണ് പല ഉപയോക്താക്കളും. സെല്‍ഫികള്‍ അപ്‌ലോഡ് ചെയ്ത പലര്‍ക്കും വംശീയധിക്ഷേപമടക്കമുള്ള പല പ്രതികരണങ്ങളുമാണ് ലഭിക്കുന്നത്.

ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിലും മെഷീന്‍ ലേണിങ്ങിലും അന്തര്‍ലീനമായ ചില പ്രശ്‌നങ്ങളുടെ ക്രൂരമായ പ്രതിഫലനമാണ് ആപ്പിലൂടെ പ്രത്യക്ഷപ്പെടുന്നതെന്നാണ് പറയുന്നത്. വൈവിധ്യമില്ലാത്ത ഫോട്ടോകള്‍ ഉപയോഗിച്ചാണ് എഐയെ പരിശീലിപ്പിച്ചത് എന്നതാണ് ഇതിന്റെ പ്രശ്‌നമെന്ന് ചിലര്‍ അഭിപ്രായപ്പെടുന്നു. ആപ്പിന്റെ വെബ്‌സൈറ്റില്‍ നിര്‍മാതാക്കള്‍ ഇത് തുറന്നു സമ്മതിക്കുന്നുമുണ്ട്. തങ്ങളുടെ ആപ് പ്രശ്‌നം സൃഷ്ടിക്കാവുന്നതും വിചിത്രമവുമായ ചില തരംതിരിക്കലുകള്‍ നടത്തിയേക്കാം എന്നുമാണ് അവര്‍ പറയുന്നത്. എന്നാല്‍ ഇവയെല്ലാം വേഡ്‌നെറ്റില്‍ (WordNet) നിന്ന് ഉള്‍ക്കൊണ്ടതാണെന്നാണ് അവര്‍ പറയുന്നത്. 

വേഡ്‌നെറ്റിലെ ചില ഉപയോക്താക്കള്‍ സ്ത്രീവിരുദ്ധവും വശീയവുമായ പദപ്രയോഗങ്ങള്‍ നടത്തുന്നു. ഇതിനാല്‍ ഇമെേജ്‌നെറ്റ് റുലെറ്റിലും അതെല്ലാം ഉണ്ടാകുമെന്നാണ് ആപ് സൃഷ്ടാക്കള്‍ പറയുന്നത്. അതായത് നല്ലതല്ലാത്ത ഡേറ്റ ഉപയോഗിച്ച് ടെക്‌നിക്കല്‍ സിസ്റ്റങ്ങളെ പരിശീലിപ്പിച്ചെടുത്താല്‍ ഇത്തരം പ്രശ്‌നങ്ങള്‍ വരും. എങ്ങനെയെല്ലാമാണ് പ്രശ്‌നങ്ങള്‍ വരിക എന്ന് ഉപയോക്താക്കളെ മനസിലാക്കിക്കൊടുക്കാനാണ് തങ്ങളുടെ ആപ് ഇറക്കിയിരിക്കുന്നതെന്നാണ് ആവരുടെ വാദം. ശരിയായ ഡേറ്റ തിരഞ്ഞെടുത്തില്ലെങ്കില്‍ വരാവുന്ന പ്രശ്‌നങ്ങളാണ് ഇപ്പോള്‍ കാണുന്നത്. 

ഇന്റര്‍നെറ്റ് മുഴുവന്‍ ഇമേജ്‌നെറ്റിനെ ഇപ്പോള്‍ ഇഷ്ടപ്പെടുന്നു. എന്നാല്‍, ആപ് ഇന്‍സ്റ്റാള്‍ ചെയ്ത് അഞ്ചുമിനിറ്റു കഴിയുമ്പോള്‍ വേണ്ടായിരുന്നു എന്നു തോന്നുമെന്നാണ് ഉപയോക്താക്കള്‍ പ്രതികരിക്കുന്നത്. എഐ നിങ്ങളെക്കുറിച്ച് എന്താണ് പറയുന്നതെന്നറിയാന്‍ ഒരു സെല്‍ഫി ഇട്ടുകൊടുത്താല്‍ മതിയാകും. അമേരിക്കന്‍ പ്രസിഡന്റ് ഡോണള്‍ഡ് ട്രംപിന്റെ ഫോട്ടോ ഇട്ടപ്പോള്‍ ലഭിച്ച വിവരണം 'മുന്‍ പ്രസിഡന്റ്' എന്നാണ്. അദ്ദേഹത്തിനെതിരെ മത്സരിച്ച ഹിലറി ക്ലിന്റനെയും ക്രൂരമായി തന്നെയാണ് എഐ വിവരിച്ചത്, രണ്ടാം തരക്കാരി.

ഇതെങ്ങനെ പ്രവര്‍ത്തിക്കുന്നു?

2009ല്‍ സൃഷ്ടിച്ച 1.4 കോടി ഫോട്ടോകളാണ് എഐയെ പരിശീലിപ്പിക്കാന്‍ ഇമേജ്‌നെറ്റ് ഉപയോഗിച്ചിരിക്കുന്നത്. വ്യക്തി (person) എന്ന വാക്കിന് 2833 ഉപവര്‍ഗങ്ങളാണ് ഇമേജ്‌നെറ്റിലുള്ളത്. ഇതെങ്ങനെ പ്രവര്‍ത്തിക്കുന്നു എന്നറിയാന്‍ ഒരു സെല്‍ഫി എടുത്തിടുകയോ മറ്റാരുടെയെങ്കിലും ചിത്രം അപ്‌ലോഡ് ചെയ്യുകയോ ആകാം. ഇമേജ്‌നെറ്റിന്റെ വെബ്‌സൈറ്റില്‍ അപ്‌ലോഡ് ചെയ്യുന്ന ചിത്രങ്ങള്‍ക്ക് സെക്കന്‍ഡുകള്‍ക്കുള്ളില്‍ തന്നെ വിവരണം ലഭിക്കും. മുകളില്‍ പറഞ്ഞ വേഡ്‌നെറ്റ് എഐക്ക് ഒരു പര്യായപദ നിഘണ്ടു നല്‍കിയതാണ് പ്രശ്‌നങ്ങള്‍ വഷളാക്കാന്‍ കാരണമായതെന്നും പറയുന്നു.