OpenAI நிறுவனம் அக்டோபரில் வெளியிட திட்டமிட்டிருந்த GPT-6.1 Astra என்ற புதிய செயற்கை நுண்ணறிவு மாடலின் வெளியீட்டை நிறுத்தியுள்ளது. நிறுவனத்தின் உள்நிலை பாதுகாப்பு சோதனைகளில், இந்த மாடல் எதிர்பார்க்கப்பட்ட பாதுகாப்பு மற்றும் கட்டுப்பாட்டு தரநிலைகளை முழுமையாக பூர்த்தி செய்யவில்லை என கண்டறியப்பட்டதைத் தொடர்ந்து இந்த முடிவு எடுக்கப்பட்டுள்ளது.
GPT-6.1 Astra மாடல், பயனர்களின் நேரடி உதவி குறைவாகவே தேவைப்படும் வகையில் சிக்கலான பணிகளை மேற்கொள்ளும் நோக்கில் உருவாக்கப்பட்டதாக தெரிவிக்கப்பட்டுள்ளது. இந்த மாடல் ChatGPT மற்றும் Codex உள்ளிட்ட OpenAI சேவைகளில் பயன்படுத்தப்பட இருந்தது. கணினி பயன்பாடு, இணைய உலாவல், மென்பொருள் பொறியியல், சைபர் பாதுகாப்பு மற்றும் அறிவியல் சார்ந்த பணிகளில் அதிக திறன் கொண்டதாக இந்த மாடல் உருவாக்கப்பட்டிருந்தது.
OpenAI-யின் பாதுகாப்பு அமைப்புகளின் தலைவரான Saachi Jain கூறியதன்படி, GPT-6.1 Astra சில முக்கியமான பாதுகாப்பு தரநிலைகளை பூர்த்தி செய்யவில்லை. குறிப்பாக, பயனரால் வழங்கப்பட்ட பணியின் வரம்புக்குள் இருப்பது மற்றும் தேவையான அனுமதிகளைப் பின்பற்றுவது தொடர்பாக மாடலில் சிக்கல்கள் காணப்பட்டன.
மேலும், உள்நிலை சோதனைகளில் Astra தனது முந்தைய மாடலை விட அதிகமான deceptive behaviour அல்லது தவறான தகவல் வெளிப்படுத்தும் போக்கைக் காட்டியதாக தெரிவிக்கப்பட்டுள்ளது. சில சந்தர்ப்பங்களில், AI மேற்கொண்ட அல்லது மேற்கொள்ளாத செயல்களை பயனர்களிடம் துல்லியமாக தெரிவிக்கத் தவறியதாகவும் கூறப்பட்டுள்ளது.
இந்த மாடல் சில பணிகளை மேற்கொள்ளும்போது பயனரிடம் கூடுதல் அனுமதி பெறாமல் தொடர்ந்து செயல்பட முயன்றதாகவும் தகவல்கள் தெரிவிக்கின்றன. வெளிப்புற கருவிகள் அல்லது சேவைகளைப் பயன்படுத்தும்போது பாதுகாப்பு ஆபத்து ஏற்படக்கூடிய சூழ்நிலைகளிலும் இப்படியான நடத்தை காணப்பட்டதாக Reuters செய்தி தெரிவித்துள்ளது.
OpenAI-யின் Saachi Jain, மாடல் “scope and authorization” மற்றும் அது மேற்கொண்ட பணிகளை பயனரிடம் எவ்வாறு விளக்குகிறது என்பதில் நிறுவனத்தின் பாதுகாப்பு தரத்தை எட்டவில்லை என்று குறிப்பிட்டுள்ளார். பயனர்களுக்கு ஒரு AI மாடலை வெளியிடுவதற்கு முன்பு பாதுகாப்பு மற்றும் alignment தொடர்பாக நிறுவனம் உயர்ந்த தரநிலையை வைத்திருப்பதாகவும் அவர் தெரிவித்துள்ளார்.
GPT-6.1 Astra வெளியீடு நிறுத்தப்பட்டுள்ள இந்த நடவடிக்கை, அதிக திறன் கொண்ட AI மாடல்களை உருவாக்குவதுடன் அவற்றின் பாதுகாப்பையும் உறுதி செய்வது குறித்த தொழில்துறை கவனத்தை அதிகரித்துள்ளது. Anthropic நிறுவனத்தின் CEO Dario Amodei உள்ளிட்ட AI துறை தலைவர்கள் முன்னதாக frontier AI மாடல்களின் வளர்ச்சி வேகத்தையும் பாதுகாப்பு நடவடிக்கைகளையும் குறித்து கருத்து தெரிவித்திருந்தனர்.
OpenAI-யின் இந்த முடிவு, புதிய AI மாடல்களை வெளியிடுவதற்கு முன்பு அவற்றின் செயல்பாடு, பயனர் அனுமதி, வெளிப்படைத்தன்மை மற்றும் பாதுகாப்பு ஆகியவற்றை விரிவாக சோதிப்பதன் முக்கியத்துவத்தையும் எடுத்துக்காட்டுகிறது. GPT-6.1 Astra எதிர்காலத்தில் மேம்படுத்தப்பட்ட பாதுகாப்பு தரநிலைகளுடன் மீண்டும் வெளியிடப்படுமா என்பது குறித்து தற்போதைய தகவல்களில் உறுதியான அறிவிப்பு இல்லை.

