Forschungsprogramm: OpenAI entwickelt Technik zur Kontrolle von Superintelligenzen openai
schon öfter als Risiko bei der KI-Entwickelung. Um Sicherheitsmaßnahmen im Umgang mit solchen Systemen zu erfinden, hat OpenAI nun ein separates Team aufgestellt, das 20 Prozent der Rechenleistung des Unternehmens nutzen soll.Die Kernannahme ist also nach wie vor, dass es auf absehbare Zeit Superintelligenzen geben wird, die Menschen übertreffen. Was bei der Ankündigung im
ebenfalls wie gehabt ist: Was genau eine solche Superintelligenz ausmacht und wie das Risiko konkret aussieht, definiert OpenAI nicht. Stattdessen ist vage von einer potenziellen Auslöschung der Menschheit die Rede. Denn das Problem ist, derzeit existiere keine Lösung „“. Ebenso wenig lasse sich verhindern, dass diese abtrünnig wird – also sich gegen Menschen richtet.
Solche Lösungen sollen nun im Rahmen eines Forschungsprogramms entstehen, das auf vier Jahre ausgelegt ist dem und wie erwähnt auch die entsprechenden Rechenkapazitäten bereitstehen. Von „“, die erforderlich sind, spricht OpenAI in dem Blog-Beitrag. Man selbst will nun einen Ansatz verfolgen, bei dem ein automatisiertes System entsteht, das problematisches Verhalten von KI-Modellen frühzeitig erkennen kann.
Das entsprechende Team wird unter anderem OpenAIs Chefentwickler und Mitgründer Ilya Sutskever leiten.von Risiken durch Superintelligenzen und forderte neben mehr Forschung auch eine globale Aufsicht. Wie bedrohlich KI-Systeme wären, erklärten zudem prominente Forscher wie die Turing-Award-Gewinner Geoffrey Hinton und Yoshua Bengio. Bei diesen Warnern vor der Bedrohung durch KI-Systeme handele es sich aber nur um eine Minderheit der KI-Forschungscommunity, erklärte aber Prof.
Dass solche Warnungen eine Form von Marketing sind, wird OpenAI regelmäßig vorgeworfen. Ein weiterer Kritikpunkt ist, dass das Unternehmen von Gefahren wie etwa Desinformation ablenken würde, die derzeit bereits Probleme verursachen.
Indonesia Berita Terbaru, Indonesia Berita utama
Similar News:Anda juga dapat membaca berita serupa dengan ini yang kami kumpulkan dari sumber berita lain.
Kontrolle von KI-Systemen: OpenAI arbeitet an VerfahrenExperten warnen vor den Gefahren von KI. Die ChatGPT-Entwickler wollen nun ein Verfahren entwickeln, um KI-Systeme verlässlich zu beaufsichtigen.
Baca lebih lajut »
OpenAI pausiert Bing für ChatGPT wegen Blick hinter BezahlschrankenDie Funktion 'Browsen mit Bing' bei ChatGPT ist derzeit eingestellt. OpenAI erklärt, es seien Vorsichtsmaßnahmen. Man arbeite an einer zügigen Rückkehr.
Baca lebih lajut »
Kurz informiert: Twitter-Alternative, Handelskrieg, Fliegendes Auto, OpenAIKurz informiert: Twitter-Alternative, Handelskrieg, Fliegendes Auto, OpenAI Bing ChatGPT Elektromobilität kurzinformiert
Baca lebih lajut »
ChatGPT-Entwickler: OpenAI will an Kontrollsystem für digitale 'Superintelligenz' arbeiten - HORIZONTDie ChatGPT-Entwicklerfirma OpenAI macht sich Gedanken darüber, wie Menschen eine potenzielle digitale 'Superintelligenz' kontrollieren könnten. 'Menschen werden nicht in der Lage sein, verlässlich Systeme mit Künstlicher Intelligenz zu beaufsichtigen, die viel klüger als wir sind.'
Baca lebih lajut »
'Bild News' auch über ChatGPT verfügbarNachrichten von 'Bild' sind ab sofort auch über den Chatbot ChatGPT von OpenAI verfügbar. Das Plugin kann über den Store von OpenAI installiert werden.
Baca lebih lajut »
Formel-1-Technik: So gelang Ferrari ein Durchbruch beim SF-23Ferrari gelangen am Rennwochenende in Barcelona endlich wichtige Fortschritte - In Spielberg brachte man nun Updates für den SF-23, um sich weiter zu verbessern
Baca lebih lajut »