ChatGPT Goblins Issue: OpenAI के AI मॉडल्स में एक अजीब समस्या सामने आई, जहां ChatGPT और Codex जैसे टूल्स बिना वजह “Goblins” और अन्य काल्पनिक जीवों का जिक्र करने लगे। यह आदत खासतौर पर “Nerdy personality” फीचर की वजह से बढ़ी, जिसमें मजेदार और कल्पनाशील भाषा को बढ़ावा दिया गया था। ट्रेनिंग के दौरान ऐसे उदाहरणों को बार-बार इस्तेमाल करने से यह पैटर्न और मजबूत हो गया। बाद में कंपनी ने इस पर रोक लगाने के लिए खास निर्देश जोड़े और ट्रेनिंग में बदलाव किए। यह घटना दिखाती है कि AI का व्यवहार छोटे-छोटे ट्रेनिंग संकेतों से भी बदल सकता है।
AI टूल में सामने आई समस्या
Company ने बताया कि उनके AI Tool में एक समस्या आ गई थी। जवाब देते समय वह बिना कारण गॉब्लिन जैसे काल्पनिक जीवों का ज़िक्र करने लगा था। इसी वजह से उन्होंने अपने Codex टूल में भी ऐसे शब्दों पर रोक लगा दी।
नए निर्देश जारी किए गए
Reports के अनुसार, AI को यह निर्देश दिया गया है कि जब तक सवाल से सीधा संबंध न हो, तब तक गॉब्लिन, ग्रेमलिन या किसी भी जानवर या काल्पनिक जीव का जिक्र न किया जाए।
RelatedPosts
बार-बार हो रहा था काल्पनिक किरदारों का इस्तेमाल
Company ने देखा कि ChatGPT और दूसरे GPT-5 Tool जवाब देते समय उदाहरण देने के लिए बार-बार ऐसे काल्पनिक किरदारों का इस्तेमाल कर रहे थे। शुरुआत में यह ठीक लगा, लेकिन बाद में यह आदत ज्यादा बढ़ गई।
“Nerdy personality” फीचर बना वजह
OpenAI के मुताबिक, यह समस्या “Nerdy personality” नाम के एक फीचर की वजह से आई। इस फीचर में AI को थोड़ा क्रिएटिव और कल्पनाशील बनने के लिए ट्रेन किया गया था, जिससे वह ऐसे उदाहरण ज्यादा देने लगा।
फीचर हटाने के बाद भी असर रहा
हालांकि बाद में इस फीचर को हटा दिया गया, फिर भी AI में यह आदत बनी रही। कंपनी ने माना कि ट्रेनिंग के दौरान ऐसे उदाहरणों को ज्यादा महत्व मिलने की वजह से यह समस्या बढ़ी।
यूजर्स के फीडबैक से हुआ खुलासा
ट्रेनिंग में किए गए बदलाव
AI को सुधारना क्यों जरूरी है
Company का कहना है कि AI का व्यवहार सिर्फ Data पर नहीं, बल्कि उसे कैसे ट्रेन किया गया है इस पर भी निर्भर करता है। इसलिए समय-समय पर उसे सुधारना जरूरी होता है, ताकि यूजर्स को सही और संतुलित जानकारी मिल सके।
