sections
MORE

നാണം കെടുത്തും ഡീപ്‌ഫെയ്ക് പോൺ ക്ലിപ്പുകൾ: ഇതൊരു മുന്നറിയിപ്പാണ്... നാളെ ഇത് ആർക്കും സംഭവിക്കാം...

deepfake-pic
SHARE

തന്റെ പേരിൽ പ്രചരിക്കുന്ന വ്യാജ അശ്ലീല വിഡിയോക്കെതിരെ നടി രമ്യ സുരേഷ് സൈബർ സെല്ലിൽ പരാതി നൽകി. കഴിഞ്ഞ കുറച്ചു മാസങ്ങളായി സെലിബ്രിറ്റികളുടെ പേരിൽ ഇത്തരം നിരവധി വിഡിയോകളാണ് പുറത്തുവന്നിരിക്കുന്നത്. ചിലർ പരാതി നൽകുമ്പോൾ മറ്റു ചിലർ കേസിനൊന്നും പോകാതെ വിട്ടുനിൽക്കുന്നു. ഇത് ഒരു നടിയുടെ മാത്രം പ്രശ്നമല്ല, നൂറായിരം സ്ത്രീകളുടെ കൂടി തലവേദനയാണ്. 

ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ ഇന്ന് ഇന്റര്‍നെറ്റിന്റെ പേടിസ്വപ്‌നമാണ്. ഇത്തരത്തില്‍, ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ സഹായത്തോടെ ആരെക്കുറിച്ചുമുളള വ്യജ വിഡിയോകള്‍ സൃഷ്ടിക്കാമെന്നത് ലോകത്തെ ഭയപ്പെടുത്തുന്നു. കുടുംബ ബന്ധങ്ങളില്‍ വിള്ളല്‍ വീഴ്ത്താനും കലാപത്തിനു വഴിവയ്ക്കാനുമൊക്കെ ഇത്തരം വിഡിയോകള്‍ ഉപയോഗിച്ചേക്കാമെന്നതാണ് ഇതിനു കാരണം. 

ഡീപ്‌ഫെയ്ക് വിഡിയോകളും അതിവേഗം പ്രചരിപ്പിക്കണമെങ്കില്‍ അതിന് ഫെയ്‌സ്ബുക്, യുട്യൂബ് പോലെയുള്ള പ്ലാറ്റ്‌ഫോമുകളുടെ സഹായം ആവശ്യമാണ്. വിപത്ത് മുന്നില്‍ക്കണ്ട് ഡീപ്‌ഫെയ്ക് വിഡിയോ ഫെയ്‌സ്ബുക്കിലൊ ഇന്‍സ്റ്റഗ്രാമിലോ അപ്‌ലോഡ് ചെയ്യുന്നത് നിരോധിച്ചിട്ടുണ്ട്. എന്നാൽ ഇതൊന്നും പലപ്പോഴും പരാജയപ്പെടുകയാണ് പതിവ്.

∙ നാണം കെടുത്തും ഡീപ്‌ഫെയ്ക് യുഗം ലോകത്തിന് വൻ ഭീഷണി

എല്ലാ തരത്തിലുള്ള ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ വര്‍ധിച്ചുവരുന്നതായാണ് റിപ്പോര്‍ട്ടുകള്‍ പറയുന്നത്. പോണ്‍ വിഡിയോയിലാണ് ഏറ്റവുമധികം വര്‍ധന എന്നാണ് ഇന്റര്‍നെറ്റിലെ ഡീപ്‌ഫെയ്ക് വിഡിയോകളെക്കുറിച്ചു പഠിച്ച വിദഗ്ധർ പറയുന്നത്. വ്യാജ വിഡിയോകളുടെ വ്യാപ്തി മനസ്സിലാക്കാൻ ഇറങ്ങിപ്പുറപ്പെട്ട ഡീപ്‌ട്രെയ്‌സ് (Deeptrace) കമ്പനി പറയുന്നത് ഇപ്പോള്‍ ഇത്തരത്തിലുള്ള ഏകദേശം 15,000 ക്ലിപ്പുകള്‍ ഉണ്ടെന്നാണ്. എല്ലാം തന്നെ അശ്ലീല വിഡിയോകളാണ് എന്നാണ് അവരുടെ മറ്റൊരു കണ്ടെത്തല്‍.

2018 ഡിസംബറില്‍ ഉണ്ടായിരുന്നതിന്റെ 84 ശതമാനമാണ് 2019 ജൂണ്‍-ജൂലൈ മാസങ്ങളിലെത്തിയപ്പോള്‍ കൂടിയിരിക്കുന്നതെന്ന് കമ്പനിയുടെ റിപ്പോർട്ടിൽ പറയുന്നു. പുതിയ വ്യാജ വിഡിയോകള്‍ ഓരോ നിമിഷവും വന്നുകൊണ്ടിരിക്കുകയാണ്. ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ രാഷ്ട്രീയപരമായും മറ്റും പ്രശ്‌നങ്ങള്‍ സൃഷ്ടിക്കുമോ എന്ന കാര്യത്തില്‍ കേന്ദ്രീകരിച്ചാണ് പല റിപ്പോര്‍ട്ടുകളും വരുന്നത്. എന്നാല്‍, പോണ്‍ വ്യവസായത്തിലാണ് ഇപ്പോള്‍ വ്യാജ വിഡിയോ കൊടികുത്തി വാഴുന്നതെന്ന് പറയുന്നു. തങ്ങള്‍ കണ്ടെത്തിയ വിഡിയോകളില്‍ 96 ശതമാനം ഡീപ് ഫെയ്ക് ക്ലിപ്പുകളും പോണ്‍ ആണെന്നാണ് ഡീപ്‌ട്രെയ്‌സ് പറയുന്നത്. മിക്കവാറും വിഡിയോകളിലെല്ലാം സ്ത്രീകളെയാണ് വ്യാജമായി സൃഷ്ടിച്ചിരിക്കുന്നതെന്നും കമ്പനി പറയുന്നു.

ഡീപ്‌ട്രെയ്‌സ് മേധാവിയും ശാസ്ത്രജ്ഞനുമായ ജിയോര്‍ജിയോ പട്രീനി മറ്റൊരു പ്രശ്‌നത്തിലേക്കാണ് വിരല്‍ ചൂണ്ടിയത്. കുറഞ്ഞ സമയം കൊണ്ട് ഇത്രമാത്രം വ്യാജ വിഡിയോകള്‍ സൃഷ്ടിക്കാനായെങ്കില്‍ അത് സൃഷ്ടിക്കലും പ്രചരിപ്പിക്കലും എത്രമാത്രം എളുപ്പമായിക്കഴിഞ്ഞു എന്നാണ് അദ്ദേഹം ചോദിക്കുന്നത്. തങ്ങള്‍ കണ്ടെത്തിയ വ്യാജ വിഡിയോകള്‍ യഥാര്‍ഥമല്ലെന്നു പറയുക എളുപ്പമല്ലെന്നാണ് അദ്ദേഹം പറഞ്ഞത്. ഇനി, ചുരുക്കം ചില ക്ലിപ്പുകള്‍ യഥാര്‍ഥമല്ലെന്നു തോന്നിയാല്‍ പോലും അവ പോലും ആളുകളുടെ ശ്രദ്ധയാകര്‍ഷിക്കാന്‍ പര്യാപ്തമാണെന്നു പറയുന്നു. ഡീപ്‌ഫെയ്ക് വിഡിയോ സമൂഹ മാധ്യമങ്ങള്‍ക്കും ഭീഷണിയാണെന്ന് വിദഗ്ധർ പറയുന്നു.

∙ എന്താണ് ഡീപ്‌ഫെയക്?

ഡീപ് (ആഴത്തിലുള്ള) ഫെയ്ക് (വ്യാജ) എന്നീ രണ്ടു വാക്കുകള്‍ ചേര്‍ത്താണ് പുതിയ പദം ഉണ്ടാക്കിയിരിക്കുന്നത്. എന്നാല്‍, ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ സഹായത്തോടെ ആളുകള്‍ ചെയ്യാത്തതും പറയാത്തതുമായ കാര്യങ്ങള്‍ അവരെക്കൊണ്ട് ചെയ്യിപ്പിക്കുകയും പറയിപ്പിക്കുകയും ചെയ്യുന്ന വിഡിയോകളെയാണ് ഡീപ്‌ഫെയ്ക് എന്നു വിളിക്കുന്നതെന്നു നിര്‍വചിക്കാം. ഇത് പുതിയ രീതിയാണ്. ആദ്യ ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ പുറത്തുവരുന്നത് 2017ല്‍ ആണ്. പോണ്‍ നടീനടന്മാരുടെ മുഖം മാറ്റി പ്രശസ്തരായ വ്യക്തികളുടെ മുഖം വച്ചായിരുന്നു റെഡിറ്റില്‍ പോസ്റ്റു ചെയ്ത ആദ്യവിഡിയോ. ഒരുകാലത്ത് ഇത്തരം വിഡിയോകള്‍ സൃഷ്ടിക്കുക എന്നത് ശ്രമകരമായ ജോലിയായിരുന്നു. ഓരാളിരുന്ന് ഫ്രെയിം, ഫ്രെയ്മായി വേണമായിരുന്നു ഇതു ചെയ്യാന്‍. എന്നാല്‍, ഇന്ന് കംപ്യൂട്ടറുകളെ എന്താണു ചെയ്യേണ്ടതെന്നു പഠിപ്പിച്ചു കഴിഞ്ഞാല്‍ കാര്യം കഴിഞ്ഞു.

ഡീപ്‌ട്രെയ്‌സ് ഇറങ്ങിത്തിരിച്ചിരിക്കുന്നതും വളരെ വിഷമം പിടിച്ച കാര്യത്തിനാണ്. അവരുടെ ടെക്‌നോളജി അത്രമേല്‍ പുരോഗമിച്ചതല്ല. കൂടാതെ, ലോകത്തിന്റെ വിവിധഭാഗങ്ങളില്‍ ഡീപ് ഫെയ്ക് വിഡിയോകള്‍ പുറത്തിറങ്ങിക്കൊണ്ടിരിക്കുന്നു. അവയ്ക്കായി എവിടെയാണ് നോക്കേണ്ടത് എന്നതുപോലും വിഷമംപിടിച്ച കാര്യമാണ്. അവര്‍ കണ്ടെത്തിയ വിഡിയോകളില്‍ മാറ്റംവരുത്തിയവയെ ഡീപ്‌ഫെയ്ക്കിന്റെ പട്ടികയില്‍ പെടുത്താതിരിക്കാനും കമ്പനി തീരുമാനിക്കുകയായിരുന്നു.

ഇപ്പോള്‍ 15,000ല്‍ താഴെ ഫെയ്ക് വിഡിയോകളെ ഉള്ളൂവെന്ന് പറയുന്നത് പ്രശ്‌നമാക്കേണ്ടതുണ്ടോ എന്നാണ് ചിലര്‍ ചോദിക്കുന്നത്. എന്നാല്‍, പല രാജ്യങ്ങളിലും തെരഞ്ഞെടുപ്പുകൾ അടുക്കുമ്പോഴേക്കും രാഷ്ട്രീയക്കാരുടെയും മറ്റും വയറ്റില്‍ തീയാണ്. തങ്ങളെക്കൊണ്ട് എന്തൊക്കെ പറയിപ്പിച്ചായിരിക്കും വോട്ടര്‍മാരുടെ മനംമാറ്റുക എന്നാണ് അവര്‍ പേടിക്കുന്നത്. അതുകൂടാതെയാണ് ഫെയ്‌സ്ബുക്കും ഗൂഗിളും പോലെയുള്ള കമ്പനികളുടെ ഡീപ്‌ഫെയ്ക് പേടി. ഇതിനാല്‍, ഈ കമ്പനികളും ആളുകളില്‍ അവബോധം വളര്‍ത്താനായി അവയുടെ സ്വന്തം ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ സൃഷ്ടിക്കുകയാണ്.

ഇത്തരം വിഡിയോകളുടെ ഭീഷണിയുടെ സാധ്യതയളക്കാനാണെന്നാണ് ഡീപ്‌ട്രെയ്‌സ് എന്ന കമ്പനി ഡീപ്‌ഫെയ്കിന്റെ പിന്നാലെ കൂടിയിരിക്കുന്നതെന്ന് പട്രീനി പറഞ്ഞു. ഏതെല്ലാം തരത്തിലുള്ള ഡീപ്‌ഫെയ്ക് വിഡിയോകളാണ് സൃഷ്ടിക്കപ്പെടുന്നത്, ഏതെല്ലാം വെബ്‌സൈറ്റുകളിലാണ് അവ എത്തുന്നത്, എങ്ങനെയല്ലാമാണ് അവ വിതരണം ചെയ്യപ്പെടുന്നത്, എന്തെല്ലാം ടൂളുകള്‍ ഉപയോഗിച്ചാണ് അവ സൃഷ്ടിച്ചിരിക്കുന്നത് തുടങ്ങിയവയെല്ലാം അവരുടെ അന്വേഷണ പരിധിയില്‍ വരും. ചില ഓണ്‍ലൈന്‍ ടൂളുകള്‍ ഉപയോഗിച്ചാണ് ഇപ്പോള്‍ വ്യാജ വിഡിയോകളുടെ കണക്കെടുപ്പ് നടത്തുന്നത്. ഇതിൽ നിഷ്‌കളങ്കമായ ചില ഡീപ് ഫെയ്ക്‌വിഡിയോകളും അവര്‍ കണ്ടെത്തിയിട്ടുണ്ട്. ടെസ്‌ല മേധാവി ഇലോണ്‍ മസ്‌കിനെ ഒരു കുട്ടിയായി ചിത്രീകരിക്കുന്ന അത്തരത്തിലൊരു വിഡിയോ നേരത്തെ പുറത്തുവന്നിരുന്നു. 

എന്നാല്‍, ഡീപ്‌ട്രെയ്‌സ് കണ്ടെത്തിയ വിഡിയോകളില്‍ കൂടുതലും പോണ്‍ ആണെന്നു പറഞ്ഞല്ലോ. ഇവയെല്ലാം തന്നെ പോണ്‍ വെബ്‌സൈറ്റുകളില്‍ ഹിറ്റാണെന്നാണ് അവര്‍ പറയുന്നത്. പ്രധാനപ്പെട്ട 10 പോണ്‍ വെബ്‌സൈറ്റുകളില്‍ 8 ലും ഡീപ്‌ഫെയ്ക് വിഡിയോകള്‍ ഉണ്ടെന്നാണ് ഡീപ്‌ട്രെയ്‌സ് പറയുന്നത്. വെറും രണ്ടു ദിവസം കൊണ്ട് ഒരാളുടെ 250 ഫോട്ടോ നല്‍കിയാല്‍ ഡീപ്‌ഫെയക് വിഡിയോ നിര്‍മിച്ചു തരാമെന്ന് അവകാശപ്പെടുന്ന സൈറ്റുകളും ഉണ്ടെന്നാണ് ഡീപ്ട്രെയ്സിന്റെ കണ്ടെത്തൽ. എന്നാൽ, മിക്ക ഡീപ്ഫെയ്ക് വിഡിയോകളും പ്രമുഖ പോൺ സൈറ്റുകൾ നീക്കം ചെയ്തെങ്കിലും ശ്രദ്ധിക്കപ്പെടാത്ത വെബ്സൈറ്റുകളിൽ ഇപ്പോഴും തുടരുന്നുണ്ടെന്നത് മറ്റൊരു വസ്തുതയാണ്.

English Summary: Deepfake deception: the emerging threat of deepfake attacks

തൽസമയ വാർത്തകൾക്ക് മലയാള മനോരമ മൊബൈൽ ആപ് ഡൗൺലോഡ് ചെയ്യൂ
MORE IN SOCIAL MEDIA
SHOW MORE
ഇവിടെ പോസ്റ്റു ചെയ്യുന്ന അഭിപ്രായങ്ങൾ മലയാള മനോരമയുടേതല്ല. അഭിപ്രായങ്ങളുടെ പൂർണ ഉത്തരവാദിത്തം രചയിതാവിനായിരിക്കും. കേന്ദ്ര സർക്കാരിന്റെ ഐടി നയപ്രകാരം വ്യക്തി, സമുദായം, മതം, രാജ്യം എന്നിവയ്ക്കെതിരായി അധിക്ഷേപങ്ങളും അശ്ലീല പദപ്രയോഗങ്ങളും നടത്തുന്നത് ശിക്ഷാർഹമായ കുറ്റമാണ്. ഇത്തരം അഭിപ്രായ പ്രകടനത്തിന് നിയമനടപടി കൈക്കൊള്ളുന്നതാണ്.
Video

എന്നെ വിമർശിച്ചോളൂ, എന്തിനു വീട്ടുകാരെ പറയണം? | Anusree | Manorama Online

MORE VIDEOS
FROM ONMANORAMA