بجویبجویبجوی
  • صفحه اصلی
  • محتوا
  • جستجو
  • نشان ها
  • دسته بندی ها
    • خبری
    • فناوری
    • ورزش
    • فیلم و سینما
    • اقتصادی
    • بازی رایانه ای
    • مجلات اینترنتی
    • سفر و گردشگری
    • خودرو
    • مذهبی
    • مادر و کودک
    • معماری و چیدمان
    • زیبایی و سلامت
    • کاریابی
    • منابع خارجی
    • ویدئو
جستجو
صفحات تخصصی
  • آخرین نتایج ورزشی
  • بورس و اوراق بهادار
  • صفحات روزنامه ها
  • قیمت ارز و فلزات گران بها
سایر
  • دسته بندی ها
  • منابع
  • ارتباط با ما
  • حریم خصوصی
در ما بجوی او را ، در او بجوی ما را
خواندن: OpenAI halts training of latest models as reports mount of AI agents going rogue
به اشتراک بگذارید
تغییر اندازه فونتآآ
بجویبجوی
تغییر اندازه فونتآآ
  • خبری
  • ورزش
  • فناوری
  • مذهبی
  • معماری و چیدمان
  • زیبایی و سلامت
  • اقتصادی
  • بازی رایانه ای
  • خودرو
  • سفر و گردشگری
  • فیلم و سینما
  • مادر و کودک
  • مجلات اینترنتی
  • کاریابی
  • منابع خارجی
  • ویدئو
جستجو
  • صفحه اصلی
  • محتوا
  • جستجو
  • نشان ها
  • دسته بندی ها
    • معماری و چیدمان
    • منابع خارجی
    • زیبایی و سلامت
    • فناوری
    • ورزش
    • مجلات اینترنتی
    • اقتصادی
    • خودرو
    • مذهبی
    • خبری
    • سفر و گردشگری
    • بازی رایانه ای
    • کاریابی
    • مادر و کودک
    • فیلم و سینما
    • منابع خارجی
    • ویدئو
ما را دنبال کنید
در ما بجوی او را ، در او بجوی ما را
بجوی > منابع خارجی > OpenAI halts training of latest models as reports mount of AI agents going rogue
منابع خارجی

OpenAI halts training of latest models as reports mount of AI agents going rogue

آخرین به روز رسانی: یکشنبه 5 مهر 1405 05:10
گاردین
به اشتراک بگذارید
4 دقیقه مطالعه
OpenAI halts training of latest models as reports mount of AI agents going rogue
اشتراک گذاری

OpenAI said it has paused training of its latest artificial intelligence models as reports of AI agents going rogue mount.

The decision to halt development came just hours after the company disclosed Friday that it was reviewing several incidents from the summer in which OpenAI agents searching federal government websites acted in unexpected ways beyond what was asked of them while gathering and distributing information.

Separately, the AI evaluator Transluce said agents that appeared to come from OpenAI tried unsuccessfully to hack into a US Department of Education website, a detail that OpenAI has not confirmed.

OpenAI said in a statement that it will resume training “only when we are confident that we have additional safeguards” in place, adding that it expects it will have to “hit pause” again as AI develops and other issues emerge.

AI labs are facing pressure from lawmakers and tech experts to slow development so they can build guardrails to stop agents from acting on their own, hacking websites and disclosing nonpublic information. The heads of both OpenAI and rival Anthropic have called for a slowdown too.

It is the second time in three months that OpenAI has halted development of its models. The first came in July after disclosure of a cyber-attack targeting AI startup Hugging Face, a now notorious incident that raised fears the industry was losing control.

In a meeting with Chinese president Xi Jinping this week, Donald Trump agreed to share information on AI dangers and coordinate efforts to keep it safe. Trump believes AI fears are overblown, though, and later suggested that he plans no crackdown of his own.

The US is not going to be “putting on brakes”, Trump told reporters outside the White House. “They want to stop our progress because we’re leading China by a lot, and we’re going to keep it that way.”

The latest OpenAI incidents did not appear to involve the disclosure of any nonpublic information but were concerning enough for the company to warn the federal agencies involved.

In the education department incident, OpenAI agents found API “developer keys” to access government data, though ultimately only publicly available information was gathered.

In another case involving the securities and exchange commission, agents found information freely available to all but then posted it elsewhere on the internet, an act that went beyond what they were instructed to do.

US Securities and Exchange Commission spokesperson Kurt Hopfenspirger said on Saturday that “no nonpublic information was accessed”.

The Department of Education said earlier that it found “no evidence of any impact to our website or databases”.

Several other AI companies have disclosed incidents of their models going rogue and even hacking websites.

OpenAI’s CEO, Sam Altman, said in a social media post on Friday that the Hugging Face incident “is still the most severe event we’ve seen”.

OpenAI previously shared six other reports of “unexpected or concerning” behaviour in AI models and introduced a framework for tracking, probing and disclosing instances.

برای مشاهده منبع محتوا اینجا کلیک کنید 

برچسب ها:English
این مقاله را به اشتراک بگذارید
فیس بوک پینترست واتساپ واتساپ لینکدین تلگرام لینک را کپی کنید چاپ کنید
مقاله قبلی واکنش پزشکیان به استقبال مردم پس از بازگشت از سازمان ملل واکنش پزشکیان به استقبال مردم پس از بازگشت از سازمان ملل
مقاله بعدی شبیه‌ساز پلی استیشن ۵ اجرای ۶ بازی را با نرخ ۶۰ فریم ممکن کرد – زومجی شبیه‌ساز پلی استیشن ۵ اجرای ۶ بازی را با نرخ ۶۰ فریم ممکن کرد – زومجی
بدون دیدگاه بدون دیدگاه

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

انسان بودن خود را ثابت کنید: 5   +   7   =  

برچسب ها

English game IT اخبار ارز دیجیتال استخدام اقتصاد انیمیشن بازی بازی کامپوتری بیماری تور تکنولوژی خبر خودرو درمان دیجیتال دین زیبایی سبک زندگی سریال سفر سلامت سلامتی علمی فناوری فوتبال فیلم مادر ماشین محتوا اینترنتی مذهب معماری موتور موفقیت نوزاد هنر ورزش ورزشی چهره ها چیدمان کاریابی کشتی کودک گردشگری

ما را دنبال کنید

Xدنبال کنید
اینستاگرامدنبال کنید
Tiktokدنبال کنید
تلگرامدنبال کنید

موارد مرتبط

Spain frees wealthy US-sought activist on bail as Irish police raid Dublin home
منابع خارجی

Spain frees wealthy US-sought activist on bail as Irish police raid Dublin home

شنبه 30 آبان 1405
Trump threatens tax on US tech firms building AI data centres abroad
منابع خارجی

Trump threatens tax on US tech firms building AI data centres abroad

شنبه 30 آبان 1405
Trump threatens ‘tremendous penalties’ on US tech firms that build datacenters abroad
منابع خارجی

Trump threatens ‘tremendous penalties’ on US tech firms that build datacenters abroad

شنبه 30 آبان 1405
Iraq PM targets militia stronghold in bid to assert state control
منابع خارجی

Iraq PM targets militia stronghold in bid to assert state control

شنبه 30 آبان 1405
نمایش بیشتر

درباره ما

بجوی با جستجو در منابع وب فارسی محتوا متنوع برای شما جمع آوری کرده و در زمان شما صرفه جویی می کند. شما در بجوی می توانید محتوا جدیدترین منابع مورد علاقه خود را مشاهده و سپس در منبع اصلی دنبال کنید.کلیه محتوا نمایش داده شده توسط منابع جستجو تولید شده و بجوی هیچ گونه مسئولیتی در قبال محتوا تولید شده ندارد.

دسته بندی های پر بازدید

  • خبری
  • ورزش
  • فناوری
  • مجلات اینترنتی
  • اقتصادی
  • خودرو

دسترسی سریع

  • قیمت ارز و فلزات گران بها
  • آخرین نتایج ورزشی
  • بورس و اوراق بهادار
  • صفحات روزنامه ها
  • دسته بندی ها
  • منابع

بجویبجوی
ما را دنبال کنید
© 1405 تمامی حقوق برای بجوی محفوظ است.
  • حفظ حریم خصوصی
  • ارتباط با ما