ഒരു ഉറവിടത്തിൽ നിന്ന് മറ്റൊന്നിലേക്ക് വിവരങ്ങളും അറിവും കൈമാറുന്നതിനുള്ള ഒരു പ്രക്രിയയാണ് വിജ്ഞാന വാറ്റിയെടുക്കൽ. നിലവിലുള്ളവ വാറ്റിയെടുത്ത് പുതിയ മെഷീൻ ലേണിംഗ് മോഡലുകൾ സൃഷ്ടിക്കുന്നതിനോ വിദഗ്ധരിൽ നിന്ന് പുതിയ സംവിധാനങ്ങൾക്ക് അറിവ് പകരുന്നതിനോ ഇത് ഉപയോഗിക്കാം. നിയമങ്ങൾ അല്ലെങ്കിൽ മാതൃകകൾ പോലെയുള്ള അറിവ് യഥാർത്ഥ ഉറവിടത്തിൽ നിന്ന് ശക്തി കുറഞ്ഞതും കുറഞ്ഞ വിഭവങ്ങൾ ഉള്ളതുമായ സിസ്റ്റങ്ങളിലേക്ക് കൈമാറുന്ന രീതിയെയും ഇത് സൂചിപ്പിക്കുന്നു.
വിജ്ഞാന വാറ്റിയെടുക്കൽ പ്രക്രിയകളിൽ രണ്ട് പ്രധാന ഘട്ടങ്ങൾ ഉൾപ്പെടാം: ഒരു "അധ്യാപക" മോഡൽ ഡാറ്റയുടെ മൃദുവായ പതിപ്പ് നിർമ്മിക്കുന്നു, അത് "വിദ്യാർത്ഥി" മോഡലിനെ പരിശീലിപ്പിക്കാൻ ഉപയോഗിക്കുന്നു. നോളജ് വാറ്റിയെടുക്കൽ, മോഡൽ അമിതമായി സ്പെഷ്യലൈസ് ചെയ്തതും പുതിയ ഡാറ്റയിൽ മോശം പ്രകടനം നടത്തുന്നതുമായ ഓവർ ഫിറ്റിംഗിന്റെ പ്രശ്നം പരിഹരിക്കാൻ സഹായിക്കും. "അധ്യാപകൻ" മോഡൽ, ഓരോ പ്രവചനവുമായി ബന്ധപ്പെട്ട് അത് എത്രത്തോളം അനിശ്ചിതത്വത്തിലാണെന്ന് വിദ്യാർത്ഥിക്ക് ഒരു ആശയം നൽകുന്നതിന് ഡാറ്റയുടെ ഒരു പ്രോബബിലിസ്റ്റിക് വീക്ഷണം സൃഷ്ടിക്കുന്നു. "വിദ്യാർത്ഥി" മോഡലിന്റെ പരിശീലന സമയത്ത്, യഥാർത്ഥ ലേബലുകൾക്ക് പകരം സോഫ്റ്റ് ടാർഗെറ്റുകൾ ഉപയോഗിക്കുന്നു, ഇത് വിദ്യാർത്ഥി മോഡലിന്റെ സാമാന്യവൽക്കരണ പ്രകടനം മെച്ചപ്പെടുത്തുന്നു.
മേൽനോട്ടത്തിലുള്ളതും മേൽനോട്ടമില്ലാത്തതുമായ പഠനങ്ങളിൽ വിജ്ഞാന വാറ്റിയെടുക്കൽ ഉപയോഗിക്കുന്നു. മേൽനോട്ടത്തിലുള്ള പഠനത്തിൽ, വ്യത്യസ്ത ആർക്കിടെക്ചറുകൾക്കിടയിൽ അറിവ് കൈമാറുന്നതിലൂടെ മോഡൽ പരിശീലനത്തിന്റെ കമ്പ്യൂട്ടേഷണൽ ചെലവ് കുറയ്ക്കാൻ വിജ്ഞാന വാറ്റിയെടുക്കൽ സഹായിക്കുന്നു. ഉദാഹരണത്തിന്, കൃത്യത നിലനിർത്തിക്കൊണ്ട് വിലകൂടിയ വ്യാഖ്യാനങ്ങളുള്ള മോഡലുകൾ കംപ്രസ്സുചെയ്യാൻ വിജ്ഞാന വാറ്റിയെടുക്കൽ ഉപയോഗിക്കാം. മേൽനോട്ടമില്ലാത്ത പഠനത്തിൽ, ഡാറ്റയുടെ ഒന്നിലധികം പ്രാതിനിധ്യങ്ങൾ സൃഷ്ടിക്കുന്നതിനുള്ള മോഡലിന്റെ ശേഷി വർദ്ധിപ്പിക്കാൻ സഹായിക്കുന്നതിന് വ്യത്യസ്ത ബന്ധങ്ങളുള്ള ഒന്നിലധികം ഉറവിടങ്ങൾക്കിടയിൽ പാരാമീറ്റർ പങ്കിടൽ വിജ്ഞാന വാറ്റിയെടുക്കൽ നിർദ്ദേശിക്കുന്നു.
വിജ്ഞാന വാറ്റിയെടുക്കൽ വിവിധ സാങ്കേതിക വിദ്യകൾ ഉപയോഗിച്ച് നടപ്പിലാക്കാം. ഒരു പൊതു സമീപനം "സൂചന അടിസ്ഥാനമാക്കിയുള്ള" സമീപനമാണ്, അതിൽ വിദ്യാർത്ഥി മോഡലിന് ആവശ്യമുള്ള ഔട്ട്പുട്ടിൽ പരിമിതമായ വിവരങ്ങൾ നൽകുന്നത് ഉൾപ്പെടുന്നു. മറ്റൊരു സാങ്കേതികത, "ഫേഡിംഗ് ഫാക്ടർ" ടെക്നിക്, കാലക്രമേണ മുൻകാല സ്വാധീനം സാവധാനം കുറച്ചുകൊണ്ട് അധ്യാപകനിൽ നിന്ന് വിദ്യാർത്ഥിക്ക് അറിവ് വിതരണം ചെയ്യാൻ ഉപയോഗിക്കുന്നു.
മൊത്തത്തിൽ, ഒരു ഉറവിടത്തിൽ നിന്ന് ഡൗൺസ്ട്രീം സിസ്റ്റങ്ങളിലേക്കോ സന്ദർഭങ്ങളിലേക്കോ സങ്കീർണ്ണമായ വിവരങ്ങൾ കൈമാറുന്നതിനുള്ള ശക്തമായ ഉപകരണമാണ് വിജ്ഞാന വാറ്റിയെടുക്കൽ. മേൽനോട്ടത്തിലുള്ളതും അല്ലാത്തതുമായ പഠനത്തിലും പരിശീലനച്ചെലവ് കുറയ്ക്കുന്നതിനും മോഡലുകളുടെ കൃത്യത മെച്ചപ്പെടുത്തുന്നതിനും ഇതിന് ആപ്ലിക്കേഷനുകളുണ്ട്.