Supereinfach: Euer eigenes ChatGPT | GPT4All im Test

Supereinfach: Euer eigenes ChatGPT | GPT4All im Test

c't 3003

1 год назад

146,159 Просмотров

Deine eigene lokale KI ist wirklich nur einen Download entfernt:

https://gpt4all.io/index.html

►Kapitelmarker:
0:00 Intro
0:49 Werbung: NordPass
1:45 Was ist GPT4All?
4:33 Die Sprachmodelle
6:51 Die WICHTIGSTEN Sprachmodelle
7:52 Praxis
8:29 Möglichkeiten
9:18 Risiken
13:14 Fragen/Wünsche


=== Anzeige / Sponsorenhinweis ===

Erlebe NordPass Business jetzt in Aktion mit einer 3-monatigen kostenlosen Testversion: http://nordpass.com/ct3003nord mit dem Code ct3003nord

=== Anzeige / Sponsorenhinweis Ende ===

► c't Magazin: http://ct.de
► c't auf Twitter: https://twitter.com/ctmagazin
► c't auf Instagram: https://www.instagram.com/ct_magazin
► und TOTAL CRAZY auf Papier! Überall wo es Zeitschriften gibt!

► Mail schreiben: [email protected]

► Adresse: c't Magazin / z. Hd. Jan-Keno Janssen / Karl-Wiechert-Allee 10 / 30625 Hannover

► Keno auf Twitter: https://twitter.com/elektroelvis
► Keno auf Mastodon: https://social.tchncs.de/web/@keno3003
► Keno auf Instagram: https://www.instagram.com/elektroelvis/

► Credits:
Konzept & Redaktion: Jan-Keno Janssen
Schnitt: Pascal Schewe
Host: Jan-Keno Janssen

► Kenos Bild- und Tontechnik:
Hauptkamera https://amzn.to/3ut1ndE
Detailkamera https://amzn.to/3nYm2Uh
Licht fürs Gesicht https://amzn.to/3tnwNk9
Licht für Dinge https://amzn.to/3nT2CAo
Schwanenhals https://amzn.to/2R2FKSP

#gpt4all #chatgpt #llm

Тэги:

#ct #ctmagazin #ct3003 #3003 #c't #c't_magazin #ct_magazin #ki #ai #chatgpt #openai #gpt4all #gpt #chatbot #vicuna #gpt-j #llama #meta #open_source #opensource #review #test #ausprobiert #installation #snoozy #groove #mosaic #mosaic_ml #nomic #nomic_ai #wizard #stable #stable_ai #mpt #sprachmodell #fine_tuning #pre_training
Ссылки и html тэги не поддерживаются


Комментарии:

@ct3003
@ct3003 - 03.06.2023 12:25

Tipp aus dem heise-Forum: Wenn ihr wollt, dass die GPT4All-Sprachmodelle zuverlässiger Deutsch sprechen, könnt ihr unter Settings/Generation/Prompt Template das "Human" und "Assistant" einfach durch "Mensch" und "Assistent" ersetzen.

Ответить
@therealolli7677
@therealolli7677 - 10.02.2024 14:29

Es scheint mir leider sehr ruhig geworden um GPT4All.

Ответить
@heinzmuller7259
@heinzmuller7259 - 07.02.2024 16:59

Füttern!

Ответить
@dormitor187
@dormitor187 - 06.02.2024 23:58

@ct3003 Nach nun 8 Hundejahre 😅, muss sich einiges getan haben, bitte ein update

Ответить
@purepeak70
@purepeak70 - 01.02.2024 15:54

Und das Video ist jetzt 7 Monate alt. Was hat sich bis heute getan?

Ответить
@larsidkoiwak5742
@larsidkoiwak5742 - 27.12.2023 12:04

Ja bitte ein Video über AI Feintuning. Und ggf. wie man einen Roboter dazu bekommt nur auf Inhalte (Dokumente, Video,audio) zu antworten die in einem Ordner liegen

Ответить
@Super_Mia
@Super_Mia - 17.12.2023 16:49

Angst habe ich nicht vor der KI sondern vor denen die da auf böse ideen kommen, oder nicht drpber nachdenken und einfach MACHEN


Ich nutze gpt zum übersetzen, das was gpt da raus haut, in egal welcher sprache ist nicht zu fassen

Ответить
@Gabuhmi
@Gabuhmi - 10.12.2023 15:15

Hat sich einiges geändert, gerne noch ein neues video.

Ответить
@h3xx1tt
@h3xx1tt - 23.11.2023 14:54

Ich finde da sollte man wenn man sowas open source hat oder macht, eine fundamentale grundstruktur da sein, heißt ordentlicher code mit ordentlichen(richtigen) Informationen.

Und auf die Basis kann man dann seinen Eigenen chatbot(Local) aufbauen mit seinen Persönlichen informationen die natürlich richtig sein müssten usw.
Mal schauen was daraus gemacht wird.

Ответить
@diggifroehlich
@diggifroehlich - 21.11.2023 02:27

Ja, ich wollte schon immer meine Rezepte aufschreiben. Das würde mir echt viel Arbeit ersparen.😂

Ответить
@Bas_Xen
@Bas_Xen - 20.11.2023 21:29

"... Wenn wir als Gesellschaft dann irgendwann feststellen, dass die Technik unkontrollierbar wird bzw. mehr negative Folgen als positive hat. Ja, dann müssen halt alle damit aufhören." 👍 Genial, dieser Satz! Das wird sicher klappen! "Ein 'weiter-so' kann es nicht geben" würde dann Frau Merkel vielleicht sagen.

Aber Scherz bei Seite, eure Beiträge sind klasse! Und ja, bitte ein Video zum Chatbot füttern. ChatGPT bietet sowas ja jetzt für die Premium-Mitglieder an. Hat sich GPT4all schon weiterentwickelt? Gibt es schon OS Sprachmodelle, die den proprietären Modellen ebenbürtig sind?

Ответить
@jaydenbuettner
@jaydenbuettner - 14.11.2023 04:05

Lustig ist, dass ich gerade angefangen hatte, ein Buch zu schreiben, in dem KI eine größere Rolle spielt und auch hauptsächlich die Story dominiert, als das Thema richtig Fahrt aufgenommen hat. Immerhin bin ich bald damit fertig und ich bin da auch eisern, dass ich mein Buch ohne KI-Unterstützung fertig bekomme. Dieses GPT4All bekomme ich nicht einmal zum Laufen. Habe zwei Modelle gedownloadet, die sind auch auf dem Rechner, aber ich bekomme noch immer gesagt, ich müsse diese Models downloaden und das Ding macht keinen Mucks. Aber vielleicht komme ich noch dahinter was falsch lief.

Ответить
@SuperLKproduction
@SuperLKproduction - 26.10.2023 21:10

Ein Video zum eigenen Training für die eigene firma/zuhause wäre super!

Ответить
@SodaIncorporation
@SodaIncorporation - 25.10.2023 22:49

danke für die tollen Videos!

Ответить
@TRUETHEMA
@TRUETHEMA - 05.10.2023 15:22

Danke! Tolles Video

Ответить
@sdafsdf9628
@sdafsdf9628 - 09.09.2023 15:33

Einmal geboren und der Zug ist abgefahren. Vergleicht es mit der Atomkraft. Ob Bombe oder Kraftwerk. Ob per IAEA Reguliert oder nicht juckte Fukoshima nicht. Jeder wird nun also der Analogie nach ein Atomkraftwerkchen zu Hause haben.
Da passiert dann nicht nur was sinnvoll ist, sondern da passiert alles, was passieren kann - irgendwann. Allerdings liegt darin auch gleich die Lösung. Ein natürliches Gleichgewicht.
KI als Wächter der Menschheit gegen feindliche KI? Niemand sonst könnte es mit ihnen aufnehmen. Daher wäre eine enorme Anzahl wie es nur in einer offenen Community möglich ist dringend geboten. Selbst wenn ein Geheimdienst Unfug damit betreibt, würde er nur kurz wirken, da Millionen anderer KI dagegen halten.
Gegen was? Das ist heute noch nicht denkbar, es kann und wird alles sein können.
Es wird schon dort sein wo du hinfahren möchtest. Es wird schon fertig sein, mit dem du gerade begonnen hast. Es wird bereits das haben, was du dir schon lange wünscht.
Und selbst wenn du die eine Sache hättest, die eine Frage oder sonst etwas was es zuvor noch nie gab. Dann wird eine KI kommen und sie wegnehmen bzw. kopieren, bevor du noch a sagen kannst. Oder deine eigene KI deckt dich wie eine Firewall.
Deine eigene KI? Das wird es nicht geben. Die KI auf künftigem Entwicklungsstand ist selbst. Wie viele Eltern denken, es sind ihre Kinder? Was aber denken und machen die Kinder? Sie sind auch selbst. Aber bei guten Eltern werden die Kinder immer da sein, helfend und schützend.
Eine KI also als Lebewesen? Jaein. Nur weil eine KI nicht in heutige Schubladen passt wird sie deswegen so werden. Sie ist ganz einfach. Bezeichne sie wie du willst, oder verleugne alles. Es wird die KI nicht nicht jucken, so wie es Fukoshima nicht gejuckt hat.
Das klingt so herzlos.
Ja, tut mir leid, ich versuche es anders: Wenn du eine Kerze im Zimmer hast, kann alles anbrennen. Aber zum Glück wissen wir, wie man mit einer Kerze umgeht. Wir stellen sie nicht unter die Gardine. Gut. Wer ein Atomkraftwerk hat und es am Strand baut... muss man sich wundern wenn ein Wetterereignis aus dem Meer die Betriebssicherheit behindert? Nein.
Also dann stelle deine KI nicht unter die Gardine oder an den Badewannenrand. ;-)

Ответить
@BWolle
@BWolle - 01.09.2023 12:47

Mega, dass du dich mit der Thematik so intensiv beschäftigst und uns die Ergebnisse in kompakter Form präsentierst. Und klar, würde mich ein Video zum Thema "Rezepte einlesen" 😉 interessieren. Bitte weiter so!

Ответить
@sudoGetBrainInstall
@sudoGetBrainInstall - 13.08.2023 16:32

Es gibt bisher noch keinen Gott, aber wir werden irgendwann einen/eine haben. Möge dessen Programmierung uns dann gewogen seien. Ansonsten happy extinction 😂

Ответить
@rhein-sondler
@rhein-sondler - 12.08.2023 21:12

Mittlerweile ist ja im Umlauf, das Chat GPD mit der Zeit immer dümmer wird. Ist das bei der Downloadversion auch so?
Somit ein Problem in der Ki Programmierung? 🤔

Ответить
@lambfbbd
@lambfbbd - 08.08.2023 16:03

die Bibel sagt "ihr den HERRN liebet, hasset das Arge!". Wenn das getan wird, brauchen wir keine Angst KI einzusetzen. Es geht schliesslich um uns.

Ответить
@armauploads1034
@armauploads1034 - 05.08.2023 03:49

Ja bitte! Video, wie man sein eigenes GPT trainieren kann!!

Ответить
@gertechnoland4846
@gertechnoland4846 - 04.08.2023 21:57

Kann man den chatbot auch mit Internet verwenden ?

Ответить
@georgesgregorius5752
@georgesgregorius5752 - 25.07.2023 06:01

Unter Linux kommt die Meldung keine apps verfügbar. Bin ein Linux neuling, erst gestern umgestiegen

Ответить
@allerleicartoons5416
@allerleicartoons5416 - 23.07.2023 20:52

Habe den Kanal gerade abonniert. Und wenn ich nichts übersehen habe gibt es das Video, welches erklärt, wie man ein Sprachmodell mit eigenen Inhalten trainiert noch nicht. Ich möchte darum hier noch mal dafür werben ein solches Video zu erstellen. Eine gute Anleitung würde bestimmt jede Menge Menschen interessieren, schließlich haben wir doch (fast) alle das Problem, wie wir Wissen organisieren.

Ответить
@anihe8892
@anihe8892 - 20.07.2023 14:36

In meinem Kommentar muss es natürlich heißen: Bernoulli-Differentialgleichung (nicht die einfache Bernoulli-Gleichung). Sorry!

Ответить
@anihe8892
@anihe8892 - 20.07.2023 14:32

Gerade für Bildung finde ich die neuen Möglichkeiten faszinierend. Ich engagiere mich für eine Bildungsinitiative und wollte wissen, was KI so leisten kann. Eine ungelöste, schwierige exakte DGL aus einem bekannten Mathe-Forum, mit der sich die Community ca. 1 Woche herumgeschlagen hat, habe ich in Bard eingegeben. Ich hatte ihn erst gefragt, ob er Differentialgleichungen lösen kann, was bejaht wurde. Bard hat mir nach mehreren Nachfragen die Schritt-für-Schritt-Lösung gegeben, diese Lösung mit einem Online-Solver verifiziert und mir dann auch noch den Python-Code für eine numerische Lösung und eine symbolische Lösung mit Sympy gegeben. Ich war wirklich beeindruckt. Den Code habe ich nicht getestet, aber das Ganze hat 25 Minuten gedauert! Eine Bernoulli-Gleichung wurde in ähnlicher Zeit von dem Bing-Chat gelöst, ebenfalls mit Code und in noch kürzerer Zeit. Samt Erklärungen! Habe ich in der SageCell getestet. Hat funktioniert! SUPER. Jetzt suche ich eine Möglichkeit GPT4All mit SageMath Jupyter Notebooks zu verbinden.😁

Ответить
@x81reaper
@x81reaper - 16.07.2023 16:21

JA DEFINITIV JA !!!!ACHT SO EIN VIDEO !!! BIIIITTEEEEEEE

Ответить
@morleriassternutatio8150
@morleriassternutatio8150 - 15.07.2023 23:36

Dynamit oder Messer des Internet's. So wie bei den beiden Erfindungen und Unberechenbarkeiten gibt es die auch da. Nur ob es dabei bleibt und wir nicht schon jetzt mit Plutonium rumspielen wird sich zeigen. Salz was einmal zum Pfeffer dazugeworfen wurde ist auch nicht mehr zu trennen. Wie wire es benutzt, mit was trainiert, usw. Wie leicht sind die Beschränkungen zi umgehen?! Bisher hab ich noch nichts gehört oder gesehen, wo klar der unterschied zwischen Mensch und Madchine ersichtlich war und den sollten wir scheunigst intigrieren.

Ответить
@papes4393
@papes4393 - 13.07.2023 17:26

Ich fände es unglaublich spannend einen eigenen Chatbot auf KI-Basis zu bauen und zu füttern. Die Möglichkeiten im Bereich Wissenstransfer in Unternehmen könnten great sein. 🤯

Ответить
@josefjohannmichel
@josefjohannmichel - 10.07.2023 18:05

Als Musiker interessiert mich, wie ich GPT4all mit musicxml nachtrainieren kann (ChatGPT kann musicxml lesen und schreiben). Gibt es ein Sprachmodell dass für musikgeneration nachtrainiert worden ist. Wie kann man diese Anfrage (Sprachmodell speziell für musikkomposition trainiert --- Ein und Ausgabe über musicxml) an die Entwicklergemeinde adressieren?

Ответить
@fly-swissalps533
@fly-swissalps533 - 09.07.2023 09:40

Unbedingt eine Video-Serie über own-trainierte AI!! Es gibt soviele Unternehmen, welche ihre Daten nicht rausgeben wollen!!

Ответить
@importartist1730
@importartist1730 - 08.07.2023 01:22

Nett gedacht aber an der Realität vorbei, denn die Lobbyisten wird das nicht beeindrucken und sie werden trotzdem ihre Ziele verfolgen

Ответить
@inecrew
@inecrew - 07.07.2023 23:56

Letztlich wird sich keine Erfindung des Menschen aufhalten lassen, dass ist in der Geschichte noch nie passiert. KI wird viele Bereiche des Lebens verändern, vor allem auch den Arbeitsmarkt. Aber dieser hat sich ja auch durch Erfindungen immer wieder gewandelt.

Ответить
@aketo8082
@aketo8082 - 05.07.2023 12:37

Hi nochmal. Sehr spannend. Installiert, Sprachmodelle runtergeladen und mal losgequatscht. Super, auch auf Deutsch, nachdem ich darum gebeten hatte.
Nun, einige Zeit später, startet GPT4All nicht mehr. Stürzt ab bei "Loading model..." Ist ein Power Laptop mit i9-13900HX, 64 GB RAM und RTX4090.
Jemand eine Idee, wie ich das wieder starten kann, ohne Neuinstallation?

Nachtrag - 15.07.2023:
Habs hinbekommen. Allerdings bekomme ich wenig bis gar nichts von der angeblichen Intelligenz dieser Modelle: Chat GPT, GPT4All, Bing. etc. mit. Viele Fehlerhaften antworten.
Egal, wie man die Temperatur einstellt. Auch relativ egal, wie ausführlich der Prompt ist.
Ging um eine kleine Geschichte und da waren nur zwei Fragen, nach dem Alter einer Person und nach dem Ort. Beides versagt. Scheinbar noch nicht so die Zeit dafür.
Gibt es irgendwo ein Video oder Website, die die "Interligenz" beschreibt, oder bleiben das nur Textgeneratoren? Vielen Dank für Infos.

Ответить
@golfsierra42
@golfsierra42 - 01.07.2023 14:23

Bitte einen Chatbot auf Sarkasmus und Flachwitze trainieren! 😂

Ответить
@ThirdPartyPublishing
@ThirdPartyPublishing - 26.06.2023 11:49

Das default Model ist allerdings auch nur wirklich SEHR begrenzt brauchbar. Aber spannende Entwicklung, Danke für das Video.

Ответить
@Kaorudark
@Kaorudark - 22.06.2023 09:21

Zur Frage c‘t4all: Gerne warum auch nicht, bestimmt interessant.

Zur KI allgemein:
Ich finde einige Gedanken zum Datenschutz, sagen wir mal schwierig. Natürlich sollten private Daten geschützt sein/geschützt werden. Insofern ist eine lokale Speicherung sinnvoll.
Will ich aber ein Sprachmodell das stark ist, benötigt es was genau? Richtig, Daten. Je mehr Daten um so besser. Das trainieren der eigenen (lokalen) KI kann somit nur soviel Wissen haben wie man selbst hat bzw. eingibt. Will man mehr wissen bzw. ein genaueres Modell muss man die Daten verschiedener Quellen kombinieren.
Würde demnach verschiedene Hunderte Leute eine offene KI benutzen, entstünde daraus ein besseres Modell als man selbst zuhause bauen kann.

Die Gefahr einer KI ist denkbar schwierig. Natürlich gibt es Berufe die hierdurch gefährdet/gefährdeter werden würden. Aber ist das dann schlecht oder eher ein Zeichen für Fortschritt? Und ist man wenn ma dies einschränkt nicht dem Fortschritt im Weg?
Berufe haben sich schon immer verändert. Früher brauchte man Pferde um schneller von a nach b zu kommen. Insofern brauchte es Züchter, Hufschmiede und verschiedene andere Berufe. Heutzutage fährt man bspw. mit dem Auto, da hilft einem der Pferdezüchter oder Hufschmied nur bedingt weiter und ist weniger gefragt, dafür andere Jobs.
Ähnliche Veränderungen gab es in zig Bereichen. Bspw TV <-> Streaming; Videotheken <-> VOD; Bücherein <-> Wiki/eBooks/audible/blinkist/…. ; [setze Liste beliebig weiter fort]

Die Frage die man sich hierbei ernsthaft stellen muss ist, würdest du lieber auf irgendwas verzichten was du heute täglich benutzt nur weil deswegen einige Jobs weniger gefragt wurden?

Natürlich kann ich Nachvollziehen das einige und vor allem CEO um Ihre Existenz Bangen. Fütterst du eine KI mit den Informationen einer Firma, könnte diese bei genug Training eine Firma leiten. Unter Umständen würden hierbei sogar bessere Entscheidungen herausfallen als bei den Personen welche die Firmen heutzutage leiten. Wozu benötigt man also diesen Beruf und wieso bekommen diese Personen teils mehrere Millionen Gehalt? Zumal man einer Ki ggf nicht in den Arsch kriechen kann, also muss man anstatt ne große Klappe zu haben die selbe Leistung erbringen wie introvertiertere Arbeiter.

Und bzgl. Ki vernichtet Menschheit. … Also wäre ich eine Ki würde ich einfach warten, es ist sehr wahrscheinlich das sich die Menschheit selbst auslöscht. Es wäre komplett ineffizient hier einzuschreiten. Zumal beim einschreiten noch die Gefahr bestünde gelöscht zu werden, weil „die Ki hat schuld“, die Zeit bis dahin kann man effizienter nutzen.

Ответить
@z3rgone
@z3rgone - 22.06.2023 02:26

Ich würde mich auch über ein Video zum Trainieren des eigenen Sprachmodells freuen.

Ответить
@Yosory
@Yosory - 21.06.2023 13:23

JA! FÜTTERT EUREN EIGENEN CHATBOT! Am besten mit dem Bunte-Zeitschriften-Archiv und allen Lore Informationen für Star Trek :D

Ответить
@frebo5901
@frebo5901 - 18.06.2023 14:29

Jaaaa, bitte macht ein Video, wie man den eigenen Chatbot füttert :-)

Ответить
@ginosteiner7830
@ginosteiner7830 - 17.06.2023 15:32

also läuft beschissen bis gar nicht, und bescheuert kommt DER mir auch. abs wieder runter gehauen👎

Ответить
@aketo8082
@aketo8082 - 17.06.2023 11:46

Bin jetzt erst aufmerksam auf diese "KI" geworden. Danke. Wäre es möglich, mit GPT4All seine eigenen Daten/Informationen, die in Doc, PDF, CSV und xlsx vorliegen einzulesen und auszuwerten?
Wenn ja, gibt es hilfreiche Literatur oder Videos, wie man sowas macht? Zugriff auf Internet sollte es auch geben, vom eigenen Computer. Herzlichen Dank.

Nachtrag - 15.07.2023:
Gibt das Plug-In "LocalDocs Plugin (BETA) Settings", was scheinbar noch nicht 100% funktioniert, halt Beta. Egal ob TXT, Doc, Docx, PDF, nichts wird genutzt, obwohl unter "Available LocalDocs Collections" alles aktiviert ist. Aktuell nutze ich die Version 2.4.13.

Ответить
@MarvinG42
@MarvinG42 - 14.06.2023 15:04

LLM sind keine Intelligenzen, auch wenn das sicher super ist, was da rauskommt und OpenAI bahnbrechende Arbeit geleistet hat. Man ist so nah von einer Singularität entfernt wie vor 50 Jahren als das ganze mit neuronalen Netzen angefangen hat. Der Punkt ist, niemand kann sagen was das eigene Denken eigentlich ausmacht. Das konnte man nicht vor 50 Jahren, genauso wenig kann man es heute. Wir sind also entweder ganz kurz davor oder ganz weit weg. Ich sehe keine Änderung in der Forschung. Die Warnungen sind alle Quatsch in diesem Sinne. Da wir nicht wissen was das Denken eigentlich ist, kann auch keiner behaupten wir sind nahe dran.
Ich sehe das ziemlich fatalistisch, es kann mir doch keiner erzählen China ließe sich in irgend einer Weise regulieren. China steht für jeden X-beliebigen Staat/Firma/Militär. Also ich bete nur daß da Gutes bei raus kommt, wie und wann auch immer die Singularität eintrifft, und überhaupt wir Menschen, naja, was soll man davon schon halten?!

Ответить
@scholdererm
@scholdererm - 13.06.2023 23:47

Ja, bitte ein Video , wie ihr einen eigenen Chatbot füttert zum Thema VR-Brillen
Die besten Themen hier vereint 😉

Ответить
@olafkliemt1145
@olafkliemt1145 - 13.06.2023 08:05

ich habe Snoozy ausprobiert. da stimmt so einiges nicht. Kohlendioxid heisst dort CO2 (Kohlenmonoxid nummer zwei), richtig waere CO₂. desweiteren werden alle fragen sehr links-liberal beantwortet. ein regenbogen hat hier auch nur sechs farben statt sieben. alles propaganda. man bekommt also die offizielle narrative reingedrueckt. netter versuch. durchgefallen.

Ответить
@AntoniasSterne
@AntoniasSterne - 12.06.2023 12:45

Welches offline Sprachmodel könnte man für Textbearbeitung in deutsch benutzen?

Ответить
@endeshaw1000
@endeshaw1000 - 11.06.2023 20:48

Du hast nen neuen Abbonenten :)

Ответить
@krypto.kollektiv5860
@krypto.kollektiv5860 - 11.06.2023 11:20

Ja ich bin auch dafür einen eigenen chatbot zu füttern. Ich fände es supper einen bot mit Marktdaten zu füttern um einen tradingbots zu Verbinden

Ответить