سامسونگ استفاده از ChatGPT، Google Bard، chatbot Bing و سایر ابزارهای هوش مصنوعی را ممنوع کرده است
پس از افشای اطلاعات اخیر، ظاهراً سامسونگ استفاده از ابزارهای مولد هوش مصنوعی مانند ChatGPT، Google Bard و چت ربات Bing AI را ممنوع کرده است. همانطور که توسط بلومبرگ گزارش شده است، این شرکت به کارکنان خود در یکی از بزرگترین بخش های خود اطلاع داده است. این پس از آن اتفاق افتاد که مهندسان سامسونگ به طور تصادفی اطلاعات حساس را از طریق ChatGPT فاش کردند.

سامسونگ استفاده از ابزارهای مولد هوش مصنوعی مانند ChatGPT را ممنوع می کند: در اینجا دلیل آن است
طبق گزارش‌ها، سامسونگ استفاده از ابزارهای مولد هوش مصنوعی را به دلیل نگرانی از اینکه داده‌های مورد استفاده توسط این پلتفرم‌ها در سرورهای خارجی ذخیره می‌شود که ممکن است در دستان اشتباه قرار گیرند، ممنوع کرده است.
طبق این گزارش، یادداشت سامسونگ به کارمندان چنین می‌گوید: «علاقه به پلتفرم‌های هوش مصنوعی مولد مانند ChatGPT در داخل و خارج در حال افزایش است. در حالی که این علاقه بر سودمندی و کارایی این پلتفرم ها متمرکز است، نگرانی های فزاینده ای در مورد خطرات امنیتی ارائه شده توسط هوش مصنوعی مولد نیز وجود دارد.
این یادداشت همچنین نشان داد که سیاست جدید پس از آن اعمال شده است که مهندسان سامسونگ به طور تصادفی کد منبع داخلی را با آپلود آن در ChatGPT فاش کردند. “HQ در حال بررسی اقدامات امنیتی برای ایجاد یک محیط امن برای استفاده ایمن از هوش مصنوعی مولد برای افزایش بهره وری و کارایی کارکنان است. با این حال، تا زمانی که این اقدامات آماده شود، ما به طور موقت استفاده از هوش مصنوعی مولد را محدود می کنیم.
با اعمال سیاست جدید، ممنوعیت استفاده از ابزارهای مولد هوش مصنوعی برای رایانه‌ها، تبلت‌ها و تلفن‌های متعلق به سامسونگ اعمال خواهد شد.
مهندسان سامسونگ به طور تصادفی اطلاعات را در ChatGPT فاش کردند
سامسونگ به مهندسان خود در بخش نیمه هادی ها اجازه داده بود از ChatGPT برای رفع مشکلات کد منبع استفاده کنند. کارمندان به اشتباه داده های فوق محرمانه مانند کد منبع یک برنامه جدید و یادداشت های جلسه داخلی مربوط به سخت افزار خود را وارد کردند. تنها در مدت یک ماه، سه مورد از این قبیل گزارش شد.
قبلاً گزارش شده بود که برای جلوگیری از چنین اشتباهاتی، Samsung Semiconductor در حال کار بر روی هوش مصنوعی خود برای استفاده داخلی کارکنان است. با این حال، به پردازش درخواست‌های کمتر از ۱۰۲۴ بایت محدود می‌شود.
«پدرخوانده هوش مصنوعی» گوگل را ترک می کند تا آزادانه درباره خطرات هوش مصنوعی صحبت کند
نگرانی هایی در مورد خطرات احتمالی وجود دارد که ابزارهای هوش مصنوعی می توانند در آینده ایجاد کنند. در اقدامی اخیر، جفری هینتون، «پدرخوانده هوش مصنوعی»، آن را در گوگل ترک می‌کند. او در توییتی توضیح داد که گوگل را ترک کرده تا بتواند در مورد خطرات هوش مصنوعی صحبت کند، بدون اینکه در نظر داشته باشد که این موضوع چگونه گوگل را تحت تاثیر قرار می دهد.
کارمندان سامسونگ به طور تصادفی اسرار شرکت را از طریق ChatGPT فاش کردند: این چیزی است که اتفاق افتاده است
سامسونگ به مهندسان خود در بخش نیمه هادی ها اجازه داده بود از ChatGPT برای رفع مشکلات کد منبع استفاده کنند.
چندین شرکت فناوری از جمله سامسونگ به کارگران اجازه داده اند در حین انجام وظایف از ChatGPT کمک بگیرند. با این حال، زمانی که کارکنان به طور تصادفی اطلاعات محرمانه‌ای را به چت ربات هوش مصنوعی درز کردند، این کار را در آب داغ قرار داد.
اطلاعات سامسونگ در ChatGPT به بیرون درز کرد
سامسونگ به مهندسان خود در بخش نیمه هادی ها اجازه داده بود از ChatGPT برای رفع مشکلات کد منبع استفاده کنند. کارمندان به اشتباه داده های فوق محرمانه مانند کد منبع یک برنامه جدید و یادداشت های جلسه داخلی مربوط به سخت افزار خود را وارد کردند. تنها در مدت یک ماه، سه مورد از این قبیل گزارش شد.
قابل توجه است که ChatGPT داده‌هایی را که برای آموزش بیشتر به خود تغذیه می‌کند، حفظ می‌کند. از این رو، این اسرار تجاری سامسونگ اکنون در دستان سازنده ربات چت هوش مصنوعی OpenAI است.
برای جلوگیری از چنین اشتباهاتی در آینده، سامسونگ Semiconductor بر روی هوش مصنوعی خود برای استفاده داخلی کارمندان کار می کند. با این حال، به پردازش درخواست‌های کمتر از ۱۰۲۴ بایت محدود می‌شود.
در یکی از تصادفات، یکی از کارمندان از چت ربات هوش مصنوعی برای بهینه سازی توالی تست برای شناسایی عیوب در تراشه هایی که برای شرکت ها محرمانه هستند، استفاده کرد. کارمند کد منبع یک برنامه دانلود پایگاه داده نیمه هادی را کپی کرد، آن را در ChatGPT وارد کرد و در مورد خطاها جویا شد. در مورد دیگری، یکی از کارمندان از ChatGPT برای تبدیل یادداشت های جلسه داخلی به ارائه استفاده کرد. این یادداشت ها حاوی اطلاعات حساسی بود که قرار نیست با اشخاص ثالث به اشتراک گذاشته شود.
قابل‌توجه، پرسش‌های متداول ChatGPT OpenAI به وضوح می‌گوید: «مکالمه‌های شما ممکن است توسط مربیان هوش مصنوعی ما برای بهبود سیستم‌هایمان بررسی شود.»
طبق گزارشی که توسط The Register منتشر شده است، رئیس سامسونگ به کارمندان نسبت به انجام چنین اشتباهاتی هشدار داده است. وی اعلام کرد: «اگر حادثه مشابهی حتی پس از انجام اقدامات حفاظتی اطلاعات اضطراری رخ دهد، دسترسی به ChatGPT ممکن است در شبکه شرکت مسدود شود.
نکته قابل توجه، OpenAI ادعا می کند، “ما هر گونه اطلاعات شناسایی شخصی را از داده هایی که قصد داریم برای بهبود عملکرد مدل استفاده کنیم، حذف می کنیم. ما همچنین تنها از نمونه کوچکی از داده‌ها برای هر مشتری برای تلاش‌های خود برای بهبود عملکرد مدل استفاده می‌کنیم.”
مشاغل مهندس نرم افزار به دلیل ابزارهای مشابه ChatGPT در خطر هستند؟ در اینجا چیزی است که ساندار پیچای، مدیر عامل گوگل می گوید
Pichai معتقد است که ChatGPT، ابزارهای Bard مانند، پیشرفت خواهد کرد
ramming برای بسیاری قابل دسترسی تر است و از این رو کاربران را قادر می سازد تا اشیاء جدیدی بسازند که ممکن است منجر به ایجاد نقش های جدید در آینده شود.
با ابزارهای هوش مصنوعی عصر جدید مانند ChatGPT، Bard و موارد دیگر، بسیاری نگران هستند که شغلشان توسط هوش مصنوعی سلب شود. در میان این ترس، ساندار پیچای، مدیر عامل گوگل می گوید که انتظار می رود این ابزارها ابزارهای برنامه نویسی نرم افزاری را برای مردم قابل دسترس تر کنند.
ساندار پیچای در ابزارهای مشابه ChatGPT
پیچای در پادکستی با نیویورک تایمز درباره ترس مهندسین نرم افزار از دست دادن شغل به دلیل هوش مصنوعی صحبت کرد. او اظهار داشت: «من معتقدم با این یکی سازگاری اجتماعی زیادی خواهد داشت. و به عنوان بخشی از آن، ممکن است همه ما نیاز به تغییر مسیرهای خود داشته باشیم.»
پیچای بر جنبه های مثبت ابزارهای هوش مصنوعی مولد تمرکز کرد. “من فکر می کنم دو چیز وجود دارد که برای مهندسان نرم افزار نیز صادق است. یکی این است که برخی از کارهای ساده ای که به عنوان بخشی از برنامه نویسی انجام می دهید بهبود می یابد. بنابراین شاید با گذشت زمان کدنویسی لذت‌بخش‌تر شود، مشابه آنچه Google Docs نوشتن آن را ساده‌تر کرده است. بنابراین، اگر شما یک برنامه نویس هستید، با گذشت زمان، داشتن این شناسه های مشترک با کمک های داخلی، فکر می کنم این کار را آسان تر می کند.”
پیچای معتقد است که ChatGPT، ابزارهای Bard مانند برنامه نویسی را برای بسیاری در دسترس تر می کند و از این رو کاربران را قادر می سازد تا اشیاء جدیدی بسازند که ممکن است به ایجاد نقش های جدید در آینده منجر شود.
وقتی از او پرسیدند که آیا موفقیت ChatGPT OpenAI او را شگفت زده می کند، گفت که از آن شوکه نشده است. او توضیح داد: «ما GPT 2 و GPT 3 را دنبال می‌کردیم. کیفیت افراد آنجا را می‌دانستیم، بنابراین این بخش جای تعجب نداشت.» او توضیح داد که حتی بارد نیز در روزهای آینده گسترش خواهد یافت.
وی در ادامه افزود: «ما به وضوح مدل های توانمندتری داریم. خیلی زود، ما Bard را به برخی از مدل‌های توانمندتر Pathways Language Model (PaLM) خود ارتقا خواهیم داد، که قابلیت‌های بیشتری را به همراه خواهد داشت. چه در استدلال، چه در کدنویسی، می تواند به سؤالات ریاضی بهتر پاسخ دهد.» مشخصاً، Bard Google هنوز در هند در دسترس نیست.
او همچنین درباره محدودیت‌های بارد گفت: «برای من مهم بود که مدلی توانمندتر ارائه نکنیم قبل از اینکه کاملاً مطمئن شویم که می‌توانیم آن را به خوبی مدیریت کنیم.»
پیچای همچنین خاطرنشان کرد که توسعه هوش مصنوعی در حال حاضر بسیار سریع در حال حرکت است و “شاید تهدیدی برای جامعه باشد”.

منبع