ADVERTISEMENT

അടുത്തിടെ സമൂഹ മാധ്യമങ്ങളിൽ വ്യാപകമായി പ്രചരിച്ച നടി രശ്മിക മന്ദാനയുടെ വ്യാജ വിഡിയോയുമായി ബന്ധപ്പെട്ട് ബിഹാറിൽ നിന്നുള്ള 19 കാരനെ ഡൽഹി പൊലീസ് ചോദ്യം ചെയ്തതായി അധികൃതർ. വിഡിയോ ആദ്യം അപ്‌ലോഡ് ചെയ്തത് ആ യുവാവിന്റെ അക്കൗണ്ടിൽ നിന്നാണെന്നു കണ്ടെത്തിയതിനാലാണ് ഹാജരാകാൻ ആവശ്യപ്പെട്ടതെന്നു പൊലീസ് പറയുന്നു. അതേസമയം അറസ്റ്റ് രേഖപ്പെടുത്തിയിട്ടുമില്ല.

ഡീപ് ഫെയ്ക് 90 ശതമാനവും പോൺ

സൈബർ ഗവേഷണ കമ്പനിയായ സെൻസിറ്റി എഐയുടെ അഭിപ്രായത്തിൽ 90 ശതമാനം ഡീപ് ഫെയ്ക് വിഡിയോകളും പോൺ ആണ്. 2017ൽ ഒരു ഒരു റെഡ്ഡിറ്റ് ഉപയോക്താവ് സെലിബ്രിറ്റികളുടെ എഐ പോൺ വിഡിയോകൾ നിർമിച്ചതോടെയാണ് ഇതിന്റെ തുടക്കം. 5 വര്‍ഷം പിന്നിടുമ്പോൾ 3 ലക്ഷത്തിൽപരം ഡീപ്​ഫെയ്ക് വിഡിയോകളാണ് ഏറ്റവും കാഴ്ചക്കാരുള്ള ആദ്യ 35 പോൺ വെബ്സൈറ്റുകളിൽത്തന്നെ അപ്​ലോഡ് ചെയ്യപ്പെട്ടിരിക്കുന്നതെന്നു പഠനങ്ങൾ പറയുന്നു. ഈ വർഷത്തെ ആദ്യ മാസങ്ങളിൽത്തന്നെ ഏകദേശം ഒന്നരലക്ഷം വിഡിയോകളാണ് സൈബർ ലോകത്തെത്തിയിരിക്കുന്നത്. മുൻപാരോ നിർമിച്ച വിഡിയോ ക്ലിപ്പുകളിൽ ഏതാനും ക്ലിക്കുകളാൽ ചുറ്റുപാടും ആളുകളെയും മാറ്റുവാൻ കഴിയുന്നതിനാൽ ഈ മേഖലയിൽ അമ്പരപ്പിക്കുന്ന കണക്കുകളാകും നിയന്ത്രണങ്ങളില്ലാതെ ഉണ്ടാവുക. 

Credit:RapidEye/Istock
Credit:RapidEye/Istock

സെലിബ്രിറ്റികൾ ഇരകളാകുന്ന ഡീപ്ഫെയ്ക് പോണോഗ്രഫി

സെലിബ്രിറ്റികളെ അവതരിപ്പിക്കുന്ന ഡീപ് ഫെയ്ക് പോണോഗ്രാഫി, ഒരിക്കൽ ഇന്റർനെറ്റിൽ ആർക്കും വേണ്ടാതെ തരംതാഴ്ത്തപ്പെട്ടിരുന്നിരുന്നു. രശ്മികയുടെ വിഡിയോ വൈറലായി വാർത്താ പ്രാധാന്യം വന്നതോടെ, ഒരു സാധ്യത തിരിച്ചറി​ഞ്ഞതുപോലെ നിരവധി പ്ലാറ്റ്​ഫോമുകളിലെ ഗ്രൂപ്പ് ചാറ്റ് സംവിധാനങ്ങളിൽ ഇത്തരം വിഡിയോകളുടെ കുത്തൊഴുക്കാണ് ഉണ്ടായത്. പോണോഗ്രാഫി, ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്, സമൂഹ മാധ്യമം എന്നിവയുടെ സംയോജനമാണ് ഒരു നശീകരണ ആയുധമായി മാറിയത്.

രശ്മിക മന്ദാന
രശ്മികയുടെ ഡീപ് ഫെയ്ക്(വിഡിയോ ഗ്രാബ്)

‌ബോളിവുഡ് നടിമാരായ പ്രിയങ്ക ചോപ്ര, കാജോൾ ദേവ്ഗൺ, അനുഷ്‌ക ശർമ, കിയാര അദ്വാനി, തമന്ന ഭാട്ടിയ, പൂജ ഹെഡ്‌ഗെ, ഐശ്വര്യ റായ് എന്നിവരും ഒട്ടേറെ മലയാളം, തെലുങ്ക് തമിഴ് നടിമാരും വ്യാജ വിഡിയോകളുടെ ഇരകളാണ്. ഡീപ് ഫെയ്ക് അശ്ലീല വിഡിയോ സൃഷ്ടിക്കുന്നത് യഥാർഥ വിഡിയോയിൽ സെലിബ്രിറ്റിയുടെ മുഖം ഇംപോസ് ചെയ്‌താണ്, ഇത് ഓൺലൈനിൽ ലഭ്യമായ എഐ ടൂളുകൾ ഉപയോഗിച്ച് സൂക്ഷ്മമായി നിർവ്വഹിക്കുന്നു. നൂതന എഐ ടൂളുകൾ വളരെ സ്മാർട്ടായതിനാൽത്തന്നെ സൂക്ഷ്മതയോടെ അവ വിഡിയോ സൃഷ്ടിക്കുന്നു, അതിനാൽ യഥാർഥവും കൃത്രിമവുമായ വിഡിയോകൾ തമ്മിൽ തിരിച്ചറിയുന്നത് കൂടുതൽ വെല്ലുവിളിയായിക്കൊണ്ടിരിക്കുകയാണ്.

ഡീപ്ഫെയ്ക് പോണുകൾക്കു മാത്രം 30 കോടിയോളം കാഴ്ചക്കാർ

നിലവിൽ ഡീപ് ഫെയ്ക് ഏറ്റവും അധികം ഉപയോഗിക്കുന്നതു പോണോഗ്രഫിയിലാണ്. 30 കോടിയോളം കാഴ്ചക്കാരാണ് ഡീപ്ഫെയ്ക് പോണുകൾക്കായി മാത്രം സ്ഥാപിതമായ വെബ്സൈറ്റുകളിൽ അടുത്തിടെ ഉണ്ടായതെന്നു പിസിമാഗ് റിപ്പോർട്ടു ചെയ്യുന്നു. ഡീപ്‌ഫെയ്ക് പോൺ സൃഷ്‌ടിക്കുന്നതിനുള്ള പല ടൂളുകളും സൗജന്യവും ഉപയോഗിക്കാൻ എളുപ്പവുമാണെന്നതിനാൽ, 2019 മുതൽ 2023 വരെ ഓൺലൈനിൽ ഡീപ്ഫെയ്ക്കുകളുടെ എണ്ണം 550 ശതമാനമാണ് വർധിച്ചത്.

കുലുക്കമില്ലാതെ ടെക് ഭീമൻമാർ

എക്സ്, യുട്യൂബ്, ഫെയ്സ്ബുക് പോലുള്ള മുൻനിര സമൂഹമാധ്യമ, വിഡിയോ പ്ലാറ്റ്ഫോമുക​ളും ഇത്തരം ഉള്ളടക്കങ്ങൾ മോഡറേറ്റ് ചെയ്യുന്നതിൽ മന്ദഗതിയിലാണ്. 

representative image (Photo Credit : vs148/shutterstock)
representative image (Photo Credit : vs148/shutterstock)

റിയലസ്റ്റിക് ഡീപ്ഫെയ്ക്കുകളിൽ ലേബൽ ചെയ്യണമെന്നും സ്വകാര്യ വ്യക്തികളുടെ ഡീപ് ഫെയ്ക് അനുവദിക്കില്ലെന്നും ടിക്ടോക് കഴിഞ്ഞമാസം പറഞ്ഞിരുന്നു. അശ്ലീല ദൃശ്യങ്ങൾ സൃഷ്ടിക്കാൻ കഴിയുന്ന ചില ഡീപ് ഫെയ്ക് ആപ്പുകൾ ആപ്പിളും ഗൂഗിളും ആപ് സ്റ്റോറിൽനിന്ന് നീക്കം ചെയ്തു.

ഗൂഗില്ഡ‍ സേർച്ചിൽ ചിത്രങ്ങളിൽ ഒരു ലേബൽ കാണാം. അവ എഐ ജനറേറ്റഡ് എന്ന് അടയാളപ്പെടുത്തുമെന്നും ഗൂഗിൾ അടുത്തിടെ പറഞ്ഞിരുന്നു. ഈ വിപത്തിനെ നേരിടാൻ പ്രത്യേക നിയമങ്ങൾ ആവശ്യമായി വരുമെന്നാണ് വിദഗ്ധർ പറയുന്നത്.

നിലവിലെ നിയമങ്ങളിൽ ചില വ്യവസ്ഥകൾ ഉണ്ടെങ്കിലും, പ്രധാന വെല്ലുവിളി സ്രഷ്‌ടാക്കളെയും വിതരണക്കാരെയും തിരിച്ചറിയുന്നതിലാണ്. നിലവിൽ, അപകീർത്തികരമായ ഒരു ഉള്ളടക്കം നീക്കം ചെയ്യുന്നതിൽ നമ്മുടെ പ്രശസ്ത സമൂഹമാധ്യമങ്ങൾ അപര്യാപ്തമാണെന്നാണ് പരാതികൾ ഉയരുന്നത്.

ഡീപ്ഫെയ്കുകൾ എങ്ങനെ കണ്ടെത്താം

∙മുഖം ശ്രദ്ധിക്കുക. ഡീപ്ഫെയ്ക് വ്യാജ വിഡിയോകൾ മിക്കവാറും എപ്പോഴും മുഖം മാറ്റിയവയാണ്.

Representative image. Photo Credit : Liudmila Chernetska/iStock
Representative image. Photo Credit : Liudmila Chernetska/iStock

ലിപ് സിങ്കിങ്ങിലും മറ്റും ഹൈ റെസല്യൂഷൻ ഡിസ്പ്ലേകളിൽ ചെറിയ വ്യത്യാസങ്ങൾ ശ്രദ്ധയില്‍പ്പെടും

ലൈറ്റിങ്: ലൈറ്റിങ്ങിന്റെ സ്വാഭാവിക മാറ്റങ്ങളെ പൂർണ്ണമായി പ്രതിനിധീകരിക്കുന്നതിൽ ഡീപ്ഫെയ്ക് പരാജയപ്പെട്ടേക്കാം.

∙ അസ്വാഭാവികമായ മുഖഭാവങ്ങളും ചലനങ്ങളും കൊണ്ട് ഡീപ്ഫെയ്ക്കുകൾ പലപ്പോഴും തിരിച്ചറിയാം. ഉദാഹരണത്തിന്, ഒരു ഡീപ്ഫെയ്ക്കിന് കണ്ണുകളുടെയും വായയുടെയും സൂക്ഷ്മമായ ചലനങ്ങൾ ആവർത്തിക്കുന്നതിൽ പ്രശ്‌നമുണ്ടാകാം.

∙ഓഡിയോയിൽ ശ്രദ്ധിക്കുക. ഓഡിയോയിലൂടെയും പലപ്പോഴും ഡീപ്ഫെയ്ക്കുകൾ തിരിച്ചറിയാനാകും. ഉദാഹരണത്തിന്, ഓഡിയോയും വീഡിയോയുമായി ചെറിയ സിങ്കിങ് പ്രശ്നം തോന്നാം. അല്ലെങ്കിൽ വ്യക്തിയുടെ ശബ്ദം റോബോട്ടിക് ആയി തോന്നാം. (ഇത് പലപ്പോഴും പരമാവധി കൃത്യതയോടെ സൃഷ്ടിച്ചാൽ തിരിച്ചറിയുന്നതു എളുപ്പമല്ലെന്ന് ഓർക്കുക. മുന്‍ അമേരിക്കന്‍ പ്രസിഡന്റ് ട്രംപിന്റെ സ്വരത്തില്‍ നിര്‍മിത ബുദ്ധി ഉപയോഗിച്ചു സൃഷ്ടിച്ച 'ഫസ്റ്റ് ഡേ ഔട്ട്' എന്ന പാട്ട് വമ്പന്‍ ഹിറ്റായിരുന്നു)

ഡീപ്ഫെയ്ക് ഡിറ്റക്‌ഷൻ ടൂളുകൾ ഉപയോഗിക്കുക

ഡീപ്ഫെയ്ക് കണ്ടെത്തൽ ഉപകരണങ്ങൾ ഓൺലൈനിൽ ലഭ്യമാണ്. കൃത്രിമത്വത്തിന്റെ അടയാളങ്ങൾക്കായി വിഡിയോയോ ചിത്രമോ വിശകലനം ചെയ്ത് ഡീപ്ഫെയ്ക്കുകൾ തിരിച്ചറിയാൻ ഈ ഉപകരണങ്ങൾ നിങ്ങളെ സഹായിക്കും.

∙ വിഡിയോ അല്ലെങ്കിൽ ഓഡിയോ റെക്കോർഡിങ്ങിന്റെ പശ്ചാത്തലത്തിൽ ശ്രദ്ധിക്കുക. വിഡിയോ സാധാരണ എടുക്കേണ്ട സ്ഥലത്തേക്കാൾ വ്യത്യസ്‌തമായ സ്ഥലത്താണെങ്കിൽ അത് ഒരു ഡീപ്ഫെയ്ക് ആയിരിക്കാം.

∙ചർമത്തിലോ മുടിയിലോ മുഖത്തോ ഉള്ള പ്രശ്‌നങ്ങൾ നോക്കുക, അവ മങ്ങിയതായി തോന്നുന്നു. ഫോക്കസ് പ്രശ്നങ്ങളും എടുത്തുകാണിക്കും. മുഖത്തെ ലൈറ്റിങ് അസ്വാഭാവികമായി തോന്നുന്നുണ്ടോ? പലപ്പോഴും, ഡീപ്ഫെയ്ക് അൽഗോരിതങ്ങൾ വ്യാജ വിഡിയോയുടെ മോഡലുകളായി ഉപയോഗിച്ച ക്ലിപ്പുകളുടെ ലൈറ്റിങ് നിലനിർത്തും, ഇത് ടാർഗറ്റ് വിഡിയോയിലെ ലൈറ്റിങ്ങുമായി പലപ്പോഴും പൊരുത്തപ്പെടുന്നില്ല.

Concept Image for cyber attack Image Credit: TexBr/Shutterstock
Concept Image for cyber attack Image Credit: TexBr/Shutterstock

∙ഒരു ചിത്രത്തിന്റെ യഥാർഥ ഉറവിടം പരിശോധിക്കാൻ പലപ്പോഴും ഉപയോഗിക്കുന്ന ഒരു സാങ്കേതികത, നിങ്ങൾക്ക് ചെയ്യാൻ കഴിയും–റിവേഴ്സ് ഇമേജ് സെർച്ചിങ്. ആരാണ്, എവിടെയാണ് ചിത്രം പോസ്‌റ്റ് ചെയ്‌തത് എന്നൊക്കെ അറിയാനാവും.

ഇവിടെ പോസ്റ്റു ചെയ്യുന്ന അഭിപ്രായങ്ങൾ മലയാള മനോരമയുടേതല്ല. അഭിപ്രായങ്ങളുടെ പൂർണ ഉത്തരവാദിത്തം രചയിതാവിനായിരിക്കും. കേന്ദ്ര സർക്കാരിന്റെ ഐടി നയപ്രകാരം വ്യക്തി, സമുദായം, മതം, രാജ്യം എന്നിവയ്ക്കെതിരായി അധിക്ഷേപങ്ങളും അശ്ലീല പദപ്രയോഗങ്ങളും നടത്തുന്നത് ശിക്ഷാർഹമായ കുറ്റമാണ്. ഇത്തരം അഭിപ്രായ പ്രകടനത്തിന് നിയമനടപടി കൈക്കൊള്ളുന്നതാണ്.
തൽസമയ വാർത്തകൾക്ക് മലയാള മനോരമ മൊബൈൽ ആപ് ഡൗൺലോഡ് ചെയ്യൂ
അവശ്യസേവനങ്ങൾ കണ്ടെത്താനും ഹോം ഡെലിവറി  ലഭിക്കാനും സന്ദർശിക്കു www.quickerala.com