നടി രശ്മിക മന്ദാനയുടേതെന്ന പേരിൽ വിഡിയോ‌‌ സമൂഹമാധ്യമങ്ങളിൽ പ്രചരിച്ചതോടെ ഡീപ് ഫേകിന്റെ അപകടം ഒരിക്കൽക്കൂടി തിരിച്ചറിയപ്പെടുകയാണ്. കേന്ദ്ര ഐടി സഹമന്ത്രിയും അമിതാഭ് ബച്ചനുമൊക്കെ രൂക്ഷ പ്രതികരണവുമായി രംഗത്തുവന്നിരിക്കുന്നു. എഐ റെന്‍ഡറിങ്ങിൽ പല നടീനടന്മാരെയും മാറ്റിമറിയ്ക്കുന്ന പല വിഡിയോകളും സമൂഹ

നടി രശ്മിക മന്ദാനയുടേതെന്ന പേരിൽ വിഡിയോ‌‌ സമൂഹമാധ്യമങ്ങളിൽ പ്രചരിച്ചതോടെ ഡീപ് ഫേകിന്റെ അപകടം ഒരിക്കൽക്കൂടി തിരിച്ചറിയപ്പെടുകയാണ്. കേന്ദ്ര ഐടി സഹമന്ത്രിയും അമിതാഭ് ബച്ചനുമൊക്കെ രൂക്ഷ പ്രതികരണവുമായി രംഗത്തുവന്നിരിക്കുന്നു. എഐ റെന്‍ഡറിങ്ങിൽ പല നടീനടന്മാരെയും മാറ്റിമറിയ്ക്കുന്ന പല വിഡിയോകളും സമൂഹ

Want to gain access to all premium stories?

Activate your premium subscription today

  • Premium Stories
  • Ad Lite Experience
  • UnlimitedAccess
  • E-PaperAccess

നടി രശ്മിക മന്ദാനയുടേതെന്ന പേരിൽ വിഡിയോ‌‌ സമൂഹമാധ്യമങ്ങളിൽ പ്രചരിച്ചതോടെ ഡീപ് ഫേകിന്റെ അപകടം ഒരിക്കൽക്കൂടി തിരിച്ചറിയപ്പെടുകയാണ്. കേന്ദ്ര ഐടി സഹമന്ത്രിയും അമിതാഭ് ബച്ചനുമൊക്കെ രൂക്ഷ പ്രതികരണവുമായി രംഗത്തുവന്നിരിക്കുന്നു. എഐ റെന്‍ഡറിങ്ങിൽ പല നടീനടന്മാരെയും മാറ്റിമറിയ്ക്കുന്ന പല വിഡിയോകളും സമൂഹ

Want to gain access to all premium stories?

Activate your premium subscription today

  • Premium Stories
  • Ad Lite Experience
  • UnlimitedAccess
  • E-PaperAccess

നടി രശ്മിക മന്ദാനയുടേതെന്ന പേരിൽ വിഡിയോ‌‌ സമൂഹമാധ്യമങ്ങളിൽ പ്രചരിച്ചതോടെ ഡീപ് ഫെയ്കിന്റെ അപകടം ഒരിക്കൽക്കൂടി തിരിച്ചറിയപ്പെടുകയാണ് ടെക് ലോകം.  കേന്ദ്ര ഐടി സഹമന്ത്രിയും അമിതാഭ് ബച്ചനുമൊക്കെ രൂക്ഷ പ്രതികരണവുമായി രംഗത്തുവന്നിരിക്കുന്നു. എഐ റെന്‍ഡറിങ്ങിൽ നടീനടന്മാരെ  മാറ്റിമറിയ്ക്കുന്ന പല വിഡിയോകളും സമൂഹ മാധ്യമങ്ങളിൽ നിലവിൽ വൈറലാണ്.

ആദ്യ ഘട്ടത്തിൽ തമാശ രംഗങ്ങൾക്കും, ആ സീൻ ഈ നടൻ ചെയ്താൽ എങ്ങനെയായിരിക്കും എന്ന കൗതുകത്താലുമാണു പലരും പങ്കുവച്ചത്. പക്ഷേ അത്ര നിർദോഷകരമാണോ ഈ എഐ എഡിറ്റിങ്. അല്ലേ അല്ല എന്നതാണുത്തരം. സെലബ്രിറ്റികളുടെ ഡീപ് ഫെയ്ക് പോൺ വിഡിയോകൾ വലിയൊരു വിഭാഗം യാഥാർഥ്യമെന്ന ധാരണയോടെ കാണുന്നുണ്ട്.

ADVERTISEMENT

കുറച്ചു മാസങ്ങൾക്കു മുൻപ് ജെയിലറിലെ കാവാല എന്ന പാട്ടിൽ തമന്നയ്ക്കു പകരം സിമ്രാൻ നൃത്തം ചെയ്യുന്നതു കണ്ടു നാം ഞെട്ടിയിരുന്നു. താരങ്ങളുൾപ്പടെയുള്ളവർ യാഥാർഥ്യമെന്നു കരുതി പങ്കുവച്ച ആ വിഡിയോ ഡീപ് ഫെയ്കിൽ കബളിപ്പിക്കപ്പെടുന്നതിനു ഒരു ഉദാഹരണമാണ്. എന്നാൽ ഈ ഡീപ് ഫെയ്ക് എഡിറ്റിങിനു സിമ്രാൻ സമ്മതം നൽകിയിരുന്നോ എന്ന ചോദ്യവുമായി എത്തുകയാണ് ഗായിക ചിന്മയി ശ്രീപദ. 

'സ്ത്രീകൾ അനുദിനം ചൂഷണം ചെയ്യപ്പെടുന്ന ഒരു രാജ്യത്ത്, പെൺകുട്ടികളെ ലക്ഷ്യമിടാനും ഉപദ്രവിക്കാനും ബ്ലാക്ക്‌മെയിൽ ചെയ്യാനും  ഉപയോഗിക്കുന്ന അടുത്ത ആയുധം ഡീപ് ഫെയ്ക് ആയിരിക്കുമെന്നും  ഒരു ചെറിയ ഗ്രാമത്തിലോ പട്ടണത്തിലോ ഉള്ള  ഇത്തരം ടെക്നോളജിയെക്കുറിച്ചറിയാത്തവർ ഇതിനെ എങ്ങനെ നേരിടുമെന്നും അവർ മാനം പോയെന്നായിരിക്കും ചിന്തിക്കുകയെന്നും' ചിന്മയി പറയുന്നു. ഉടനടി രാജ്യവ്യാപകമായ ബോധവത്കരണ ക്യാംപെയ്ൻ ആരംഭിക്കണമെന്ന് ചിന്മയി എക്സിൽ(ട്വിറ്റർ) പോസ്റ്റ് ചെയ്തു.

രശ്മിക മന്ദാനയുടെ ഡീപ്ഫേക് വിഡിയോ

ഡീപ്ഫെയ്ക് പോണുകൾക്കായി മാത്രം 30 കോടിയോളം കാഴ്ചക്കാർ

നിലവിൽ ഡീപ് ഫെയ്ക് ഏറ്റവും അധികം ഉപയോഗിക്കുന്നതു പോണോഗ്രഫിയിലാണ്. 30 കോടിയോളം കാഴ്ചക്കാരാണ് ഡീപ്ഫെയ്ക് പോണുകൾക്കായി മാത്രം സ്ഥാപിതമായ വെബ്സൈറ്റുകളിൽ അടുത്തിടെ ഉണ്ടായതെന്നു പിസിമാഗ് റിപ്പോർട്ടു ചെയ്യുന്നു. ഡീപ്‌ഫെയ്ക് പോൺ സൃഷ്‌ടിക്കുന്നതിനുള്ള പല ടൂളുകളും സൗജന്യവും ഉപയോഗിക്കാൻ എളുപ്പവുമാണെന്നകതിനാൽ, 2019 മുതൽ 2023 വരെ ഓൺലൈനിൽ ഡീപ്ഫെയ്കുകളുടെ 550 ശതമാനം വർദ്ധനവിന് കാരണമായി.

ADVERTISEMENT

പേശീചലനം പോലും അനുകരിക്കുന്ന ഹൈപ്പർ-റിയലിസ്റ്റിക് ഉള്ളടക്കം

മമ്മൂട്ടിയെയും മോഹൻലാലിനെയും ഗോഡ്ഫാദർ സീനുകളിൽ ഡീപ്ഫേക് ചെയ്തപ്പോൾ

ഹൈപ്പർ-റിയലിസ്റ്റിക് ഉള്ളടക്കം സൃഷ്ടിക്കാൻ കഴിയുന്ന മെഷീൻ ലേണിങ് അൽഗോരിതം വഴിയാണ് ഡീപ്ഫെയ്ക് ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിനാലും സമൂഹ മാധ്യമങ്ങളിൽ നിന്നെടുക്കുന്ന വിഡിയോകളിൽനിന്നും മറ്റും സാധാരണ ഇര കാണുന്ന ബാക്ഗ്രൗണ്ടും മറ്റും പുന‍സ‍ൃഷ്‌ടിക്കുന്നതിനാൽ ഏതാണ് യാഥാർഥ്യമെന്നറിയാതെ സുഹൃത്തുക്കൾ പോലു കുഴങ്ങും.  ഏറ്റവും വലിയ പ്രശ്നം ബ്ലാക് മെയിലിങ് ആയുധമായും പലരുടെയും കരിയർ നശിപ്പിക്കാനുള്ള ആയുധമായും ഇത്തരം ഡീപ്ഫെയ്കുകള്‍ ഉപയോഗിക്കുന്നതാണ്. ഇതിനു ഇരയാകുന്നവർ നേരിടുന്ന മനശാസ്ത്രപരമായ പ്രശ്നങ്ങളും നിരവധിയാണ്.

ഡീപ് ലേണിങ്, ഫേക്

ഡീപ് ലേണിങ്, ഫെയ്ക് എന്നീ വാക്കുകള്‍ ചേര്‍ത്തായിരുന്നു ഡീപ് ഫെയ്ക് എന്ന പേരുണ്ടായത്. ഡീപ്ഫെയ്ക്കുകൾ ഒരു തരം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) ആണ്, അത് ആളുകൾ യഥാർത്ഥത്തിൽ പറയാത്തതോ ചെയ്യാത്തതോ ആയ കാര്യങ്ങൾ പറയുന്നതോ ചെയ്യുന്നതോ ആയ 'യാഥാർഥ്യത്തോടടുത്ത്' നിൽക്കുന്ന ചിത്രങ്ങളും വിഡിയോകളും സൃഷ്ടിക്കാൻ ഉപയോഗിക്കാം.

ADVERTISEMENT

വ്യക്തിയുടെ ചിത്രങ്ങളുടെയും വിഡിയോകളുടെയും ഒരു വലിയ ഡാറ്റാസെറ്റുപയോഗിച്ച മെഷീൻ ലേണിങ് ഉപയോഗിച്ചാണ് ഇത് ചെയ്യുന്നത്. ഈ മോഡൽ കൃത്യമായി പരിശീലിച്ചുകഴിഞ്ഞാൽ, യഥാർത്ഥത്തിൽ നിന്ന് വേർതിരിച്ചറിയാൻ കഴിയാത്ത ചിത്രങ്ങളും വിഡിയോകളും സൃഷ്ടിക്കാൻ ഇത് ഉപയോഗിക്കാം

ഡീപ്ഫെയ്കുകൾ എങ്ങനെ കണ്ടെത്താം:

Credit:RapidEye/Istock

∙ലിപ് സിങ്കിങിലും മറ്റും ഹൈ റെസല്യൂഷൻ ഡിസ്പ്ലേകളിൽ ചെറിയ വ്യത്യാസങ്ങൾ ശ്രദ്ധയില്‍പ്പെടും, എന്നാൽ അതിനെ മറികടക്കുന്ന ടെക്നോളജിയും ഇതു എഴുതുന്ന സമയത്തിനുള്ളിൽ കടന്നുവന്നിരിക്കും.എന്നിരുന്നാലും ഒരുപരിധിവരെ ഇത്തരം വിഡിയോകൾ തിരിച്ചറിയാന്‍ ഈ മാർഗങ്ങൾ ഉപയോഗിക്കാം.∙

∙അസ്വാഭാവികമായ മുഖഭാവങ്ങളും ചലനങ്ങളും നോക്കുക. അസ്വാഭാവികമായ മുഖഭാവങ്ങളും ചലനങ്ങളും കൊണ്ട് ഡീപ്ഫേക്കുകൾ പലപ്പോഴും തിരിച്ചറിയാം. ഉദാഹരണത്തിന്, ഒരു ഡീപ്ഫേക്കിന് കണ്ണുകളുടെയും വായയുടെയും സൂക്ഷ്മമായ ചലനങ്ങൾ ആവർത്തിക്കുന്നതിൽ പ്രശ്‌നമുണ്ടാകാം.

∙ഓഡിയോയിൽ ശ്രദ്ധിക്കുക. ഓഡിയോയിലൂടെയും പലപ്പോഴും ഡീപ്ഫേക്കുകൾ തിരിച്ചറിയാനാകും. ഉദാഹരണത്തിന്, ഓഡിയോ വീഡിയോയുമായി ചെറിയ സിങ്കിങ് പ്രശ്നം തോന്നാം, അല്ലെങ്കിൽ വ്യക്തിയുടെ ശബ്ദം റോബോട്ടിക് ആയി തോന്നാം.(ഇത് പലപ്പോഴും പരമാവധി കൃത്യതയോടെ സൃഷ്ടിച്ചാൽ തിരിച്ചറിയുന്നതു എളുപ്പമല്ലെന്നു ഓർക്കുക.മുന്‍ അമേരിക്കന്‍ പ്രസിഡന്റ് ട്രംപിന്റെ സ്വരത്തില്‍ നിര്‍മിത ബുദ്ധി ഉപയോഗിച്ചു സൃഷ്ടിച്ച 'ഫസ്റ്റ് ഡേ ഔട്ട്' എന്ന പാട്ടു വമ്പന്‍ ഹിറ്റായിരുന്നു)

∙ഡീപ്ഫെയ്ക്ക് ഡിറ്റക്ഷൻ ടൂളുകൾ ഉപയോഗിക്കുക. ഡീപ്ഫെയ്ക് കണ്ടെത്തൽ ഉപകരണങ്ങൾ ഓൺലൈനിൽ ലഭ്യമാണ്. കൃത്രിമത്വത്തിന്റെ അടയാളങ്ങൾക്കായി വീഡിയോയോ ചിത്രമോ വിശകലനം ചെയ്തുകൊണ്ട് ഡീപ്ഫെയ്ക്കുകൾ തിരിച്ചറിയാൻ ഈ ഉപകരണങ്ങൾ നിങ്ങളെ സഹായിക്കും.

∙വിഡിയോ അല്ലെങ്കിൽ ഓഡിയോ റെക്കോർഡിങിന്റെ പശ്ചാത്തലത്തിൽ ശ്രദ്ധിക്കുക. ആൾ വിഡിയോ സാധാരണ എടുക്കേണ്ട സ്ഥലത്തേക്കാൾ വ്യത്യസ്‌തമായ സ്ഥലത്താണെങ്കിൽഅത് ഒരു ഡീപ്ഫേക്ക് ആയിരിക്കാം.

∙ചർമത്തിലോ മുടിയിലോ മുഖത്തോ ഉള്ള പ്രശ്‌നങ്ങൾ നോക്കുക, അവ മങ്ങിയതായി തോന്നുന്നു. ഫോകസ് പ്രശ്നങ്ങളും എടുത്തുകാണിക്കുംമുഖത്തെ ലൈറ്റിങ് അസ്വാഭാവികമായി തോന്നുന്നുണ്ടോ? പലപ്പോഴും, ഡീപ്ഫെയ്ക് അൽഗോരിതങ്ങൾ വ്യാജ വിഡിയോയുടെ മോഡലുകളായി ഉപയോഗിച്ച ക്ലിപ്പുകളുടെ ലൈറ്റിങ് നിലനിർത്തും, ഇത് ടാർഗെറ്റ് വിഡിയോയിലെ ലൈറ്റിങുമായി പലപ്പോഴും പൊരുത്തപ്പെടുന്നില്ല.

∙ഒരു ചിത്രത്തിന്റെ യഥാർത്ഥ ഉറവിടം പരിശോധിക്കാൻ പലപ്പോഴും ഉപയോഗിക്കുന്ന ഒരു സാങ്കേതികത, നിങ്ങൾക്ക് ചെയ്യാൻ കഴിയും–റിവേഴ്സ് ഇമേജ് സെർച്ചിങ് . ആരാണ് ചിത്രം പോസ്‌റ്റ് ചെയ്‌തത്, എവിടെയാണ് പോസ്റ്റ് ചെയ്‌തത് എന്നൊക്കെ അറിയാനാവും.

ഡീപ് ഫെയ്കിനു തടയിടാനും ഗവേഷണം 

ഒരാളുടെ ഫോട്ടോ അയാളുടെ അനുവാദമില്ലാതെ മാറ്റിമറിക്കപ്പെടാനുള്ള സാഹചര്യം മുന്നില്‍ക്കണ്ട് പുതിയ തരത്തിലുള്ള വാട്ടര്‍മാര്‍ക്കിങ് സംവിധാനം കൊണ്ടുവരാന്‍ ശ്രമിക്കുകയാണ് ചില ഗവേഷകര്‍. ഫോട്ടോഗാര്‍ഡ് എന്ന പേരിലായിരിക്കും ഈ സാങ്കേതികവിദ്യ അറിയപ്പെടുക.ചിത്രത്തിലെ ചില പിക്‌സലുകള്‍ മാറ്റുകയാണ് ചെയ്യുക. എന്തു ഫോട്ടോയാണ് എന്ന് എഐക്ക് അതോടെ മനസ്സിലാകാതാകുമെന്നാണ് എന്‍ഗ്യാജറ്റിന്റെ റിപ്പോര്‍ട്ടില്‍ പറയുന്നത്. ഇത്തരം മാറ്റിമറിക്കല്‍ (perturbations) മനുഷ്യര്‍ക്ക് കാണാനുമാവില്ല എന്ന് ഗവേഷകര്‍ പറയുന്നു.

കൂടുതല്‍ സങ്കീര്‍ണ്ണമായ ഒരു സാങ്കേതികവിദ്യയും ഉപയോഗിക്കുന്നുണ്ട്. ഇതിനെ ഡിഫ്യൂഷൻ എന്നാണ് വിളിക്കുന്നത്. ഇത് ഉപയോഗിച്ചാല്‍ എഐക്ക് ആ ചിത്രം മറ്റെന്തെങ്കിലുമായി തോന്നും. ഇത്തരം ചിത്രങ്ങള്‍ എഐ എഡിറ്റു ചെയ്താല്‍ പോലും ഒന്നും സംഭവിക്കില്ല. പക്ഷേ ഈ സാങ്കേതികവിദ്യയും പൂര്‍ണ്ണമായും പഴുതറ്റതല്ലെന്നും ഗവേഷണത്തിനു നേതൃത്വം നല്‍കിയ ഹാഡി സാല്‍മണ്‍ പറഞ്ഞു.

ഡീപ്ഫെയ്ക് റിപ്പോർട്ട് ചെയ്യാൻ

ഡീപ് ഫെയ്കുകൾ കുറ്റകൃത്യങ്ങൾക്കു ഉപയോഗിക്കുന്നതിനാൽ നിയമ നിർവഹണ അധികൃതരുമായി ബന്ധപ്പെടുക എന്നതാണ് ഏറ്റവു പ്രാധാന്യം, എല്ലാ പൊലീസ് സ്റ്റേഷനുകളിലും സൈബർ പരാതികൾ സ്വീകരിക്കുമെന്നതിനാൽ ഏറ്റവും അടുത്തുള്ള പൊലീസ് അധികാരികളെ എത്രയും വേഗം ബന്ധപ്പെടുകയെന്നതാണ് പ്രാധാന്യം.

വ്യത്യസ്‌ത പ്ലാറ്റ്‌ഫോമുകളിൽ ഡീപ്ഫെയ്കുകൾ ഇങ്ങനെ റിപ്പോർട്ട് ചെയ്യാം 

ഫേസ്ബുക്കില്‍ ഒരു ഡീപ്ഫെയ്കു റിപ്പോർട്ട് ചെയ്യാൻ, പോസ്റ്റിന്റെ മുകളിൽ വലത് കോണിലുള്ള മൂന്ന് ഡോട്ടുകളിൽ ക്ലിക്ക് ചെയ്ത് "പോസ്റ്റ് റിപ്പോർട്ട് ചെയ്യുക" തിരഞ്ഞെടുക്കുക. തുടർന്ന്, " others" തിരഞ്ഞെടുത്ത് നിർദ്ദേശങ്ങൾ പാലിക്കുക.

ട്വിറ്റർ: ട്വിറ്ററിൽ ഒരു ഡീപ്ഫെയ്കു റിപ്പോർട്ട് ചെയ്യാൻ, ട്വീറ്റിന് താഴെയുള്ള അമ്പടയാളത്തിൽ ക്ലിക്ക് ചെയ്ത് "ട്വീറ്റ് റിപ്പോർട്ട് ചെയ്യുക" തിരഞ്ഞെടുക്കുക. തുടർന്ന്, "ഇത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണ്" തിരഞ്ഞെടുത്ത് നിർദ്ദേശങ്ങൾ പരിശോധിക്കുക

YouTube: YouTube-ൽ ഒരു ഡീപ്ഫെയ്ക് റിപ്പോർട്ട് ചെയ്യാൻ, വീഡിയോയ്ക്ക് താഴെയുള്ള മൂന്ന് ഡോട്ടുകളിൽ ക്ലിക്ക് ചെയ്ത് "റിപ്പോർട്ട്" തിരഞ്ഞെടുക്കുക. തുടർന്ന്, "ഇത് തെറ്റിദ്ധരിപ്പിക്കുന്നതാണ്" തിരഞ്ഞെടുക്കുക

നിങ്ങൾ ഒരു ഡീപ്ഫെയ്ക് റിപ്പോർട്ട് ചെയ്യുമ്പോൾ, വിഡിയോയിലേക്കോ ചിത്രത്തിലേക്കോ ഉള്ള ലിങ്ക്, നിങ്ങൾ അത് കണ്ട തീയതിയും സമയവും, സഹായകരമായേക്കാവുന്ന മറ്റേതെങ്കിലും വിവരങ്ങൾ എന്നിവ പോലെ കഴിയുന്നത്ര വിവരങ്ങൾ നൽകുന്നത് ഉറപ്പാക്കുക.