Nachricht

Jul 19, 2023

Prompt Engineering nutzt eine neue Technik namens Skeleton

Hier ist der Überblick über Skeleton-of-Think (SoT), wie es im Prompt Engineering für generative KI verwendet wird. Manchmal ist weniger mehr. Ein weiteres oft verwendetes Sprichwort besagt, dass man manchmal die Pumpe ansaugen sollte. Wir werden sein

Hier ist der Überblick über Skeleton-of-Think (SoT), wie es im Prompt Engineering für generative KI verwendet wird.

Manchmal ist weniger mehr.

Ein weiteres oft verwendetes Sprichwort besagt, dass man manchmal die Pumpe ansaugen sollte.

Wir werden diese wertvollen weisen Ratschläge verwenden, also behalten Sie sie bitte im Hinterkopf.

In der heutigen Kolumne erweitere ich meine fortlaufende Serie über die neuesten Fortschritte im Prompt Engineering. Mein Fokus wird dieses Mal auf einem einfachen, aber erstaunlich leistungsstarken neuen Fortschritt liegen, der als Skeleton-of-Think (SoT) bekannt ist, eine kreative Adaption der äußerst beliebten Chain-of-Think (CoT)-Prompting-Technik. Ich erkläre, was das ist und warum es eine entscheidende Methode ist, die Sie in Ihre Strategien und Taktiken für die schnelle Entwicklung einbeziehen sollten.

Der Einsatz von Skeleton-of-Think kann Ihre generativen KI-Ergebnisse erheblich verbessern. Bitte beachten Sie jedoch, dass es sich dabei um eine spezielle Technik handelt, deren Ausübung ihren eigenen richtigen Zeitpunkt und Ort hat.

Als kurzer Hintergrund: SoT baut auf dem äußerst beliebten Chain-of-Thinking-Ansatz auf, der häufig von denjenigen verwendet wird, die generative KI dazu bringen wollen, schrittweise ihre vermutete Logik bei der Beantwortung einer Frage oder der Lösung eines Problems zur Schau zu stellen. Sie weisen die generative KI lediglich an, Schritt für Schritt zu erklären, was sie tut. Dies ist ganz einfach anzufordern. Warum tun? Bemerkenswerterweise haben Forschungsstudien gezeigt, dass dies nicht nur für Sie aufschlussreich ist (z. B. die Möglichkeit, detaillierte Erklärungen der KI zu sehen), sondern auch dazu führt, dass generative KI scheinbar zuverlässigere und zielgerichtetere Antworten liefert.

Ich habe die Grundlagen von Chain-of-Thinking-Ansätzen bereits behandelt, siehe Link hier. Die Leser haben dringend nach weiteren Einzelheiten gefragt und scheinen gespannt darauf zu sein, mehr über die neuesten Fortschritte bei dieser grundlegenden Technik zu erfahren.

Ich komme gerne dieser Bitte nach.

Bevor ich mich mit dem Kern der innovativen Skeleton-of-Thought-Methode befasse, stellen wir sicher, dass wir uns alle einig sind, wenn es um die Grundpfeiler von Prompt Engineering und generativer KI geht.

Prompt Engineering ist ein Grundstein für generative KI

Als kurzer Hintergrundexperte ist Prompt Engineering oder auch Prompt Design genannt ein sich schnell entwickelnder Bereich und für den effektiven und effizienten Einsatz generativer KI von entscheidender Bedeutung. Jeder, der generative KI wie das weithin beliebte ChatGPT des KI-Herstellers OpenAI oder ähnliche KI wie GPT-4 (OpenAI), Bard (Google), Claude 2 (Anthropic) usw. verwendet, sollte genau darauf achten Neueste Innovationen für die Erstellung tragfähiger und pragmatischer Eingabeaufforderungen.

Für diejenigen unter Ihnen, die sich für Prompt Engineering oder Prompt Design interessieren, habe ich fortlaufend eine Reihe aufschlussreicher Einblicke in die neuesten Entwicklungen in diesem expandierenden und sich weiterentwickelnden Bereich gegeben, einschließlich dieser Berichterstattung:

Jeder, der großes Interesse an zeitnahem Engineering und der Verbesserung seiner Ergebnisse beim Einsatz generativer KI hat, sollte mit diesen bemerkenswerten Techniken vertraut sein.

Hier ist eine kühne Aussage, die heutzutage so ziemlich zu einer wahren goldenen Regel geworden ist:

Wenn Sie eine Eingabeaufforderung bereitstellen, die schlecht formuliert ist, ist die Wahrscheinlichkeit groß, dass die generative KI über die ganze Karte wandert und Sie nichts Aufschlussreiches zu Ihrer Anfrage erhalten. Nachweislich spezifisch zu sein kann von Vorteil sein, aber selbst das kann verwirren oder auf andere Weise nicht zu den gewünschten Ergebnissen führen. Eine Vielzahl von Spickzetteln und Schulungskursen für geeignete Methoden zum Verfassen und Verwenden von Eingabeaufforderungen sind schnell auf den Markt gekommen, um Menschen dabei zu helfen, generative KI sinnvoll zu nutzen. Darüber hinaus wurden Add-ons zur generativen KI entwickelt, um Sie bei der Erstellung umsichtiger Eingabeaufforderungen zu unterstützen. Meine Berichterstattung finden Sie unter dem Link hier.

KI-Ethik und KI-Recht dringen ebenfalls energisch in den Bereich des Prompt-Engineerings vor. Beispielsweise kann jede Aufforderung, für die Sie sich entscheiden, direkt oder unbeabsichtigt das Potenzial der generativen KI hervorrufen oder fördern, Aufsätze und Interaktionen zu produzieren, die unerwünschte Vorurteile, Fehler, Unwahrheiten, Pannen und sogar sogenannte KI-Halluzinationen hervorrufen (ich bevorzuge das nicht). Schlagwort für KI-Halluzinationen, auch wenn es in den Medien zugegebenermaßen eine enorme Brisanz hat; hier ist meine Meinung zu KI-Halluzinationen unter dem Link hier).

Es besteht auch eine große Chance, dass wir letztendlich erleben werden, dass sich die Gesetzgeber in diesen Fragen in den Vordergrund rücken und möglicherweise neue Gesetze oder Vorschriften entwerfen und einführen, um zu versuchen, den Missbrauch generativer KI auszuweiten und einzudämmen. Im Hinblick auf die Eingabeaufforderungstechnik wird es wahrscheinlich hitzige Debatten darüber geben, welche Arten von Eingabeaufforderungen Sie verwenden können. Dazu könnte gehören, dass KI-Entwickler verpflichtet werden, bestimmte vermeintlich unangemessene oder ungeeignete Eingabeaufforderungen zu filtern und zu verhindern, was für einige ein erschreckendes Thema ist, das an Überlegungen zur freien Meinungsäußerung grenzt. Meine fortlaufende Berichterstattung über diese Art von Fragen der KI-Ethik und des KI-Rechts finden Sie unter den Links hier und hier, um nur einige zu nennen.

Mit dem oben Gesagten als übergreifender Perspektive sind wir bereit, in die heutige Diskussion einzusteigen.

Wenn Umrisse die Welt beherrschen

Die „Gedankenskelett“-Methode basiert auf den gleichen Prämissen, auf die Sie stoßen würden, wenn Sie aufgefordert werden, eine Gliederung zu einem bestimmten Thema oder einer offenen Angelegenheit zu verfassen. Ein Skelett ist in diesem Fall einfach eine andere Art, sich auf einen Umriss zu beziehen. Ein Skelett oder eine Skizze ist ein wahrer Leitfaden oder eine Karte. Es ist der axiomatische Wald vor lauter Bäumen.

Wir nutzen in allen Bereichen unseres täglichen Lebens häufig Umrisse oder Skelette.

Stellen Sie sich vor, dass Sie bei der Arbeit gebeten werden, ein Memo zu verfassen, in dem Ihre neuesten Aktivitäten und Erfolge besprochen werden. Sie beginnen mit einem leeren Blatt Papier (oder, was wahrscheinlicher ist, einem leeren Online-Dokument). Beeilen Sie sich, die Worte herauszuhauen, die all die wundervollen Dinge, die Sie getan haben, vollständig beschreiben? Vielleicht ist das möglich, aber andererseits ist es manchmal besser, mit der Erstellung eines Umrisses oder Skeletts zu beginnen.

Warum einen Umriss oder ein Skelett verwenden?

Ich denke, wir alle wissen, dass das Schöne daran ist, zunächst einen Umriss oder ein Gerüst zu entwerfen, dass man die entscheidenden Aspekte dessen, was man sagen möchte, mit Bleistift skizzieren kann. Dies wird Ihnen hoffentlich ermöglichen, Ihre Gedanken in eine zusammenhängende Gesamtstruktur zu bringen. Wenn Sie ungeduldig anfangen, impulsiv zu plappern und sich dafür entscheiden, mutwillig und spontan zu schreiben, ist die Wahrscheinlichkeit groß, dass Ihr Aufsatz oder Ihre Erzählung klobig, wirr und verwirrend ist.

Man geht also davon aus, dass es tatsächlich einige Leute gibt, die einen ausführlichen, langen Aufsatz makellos ausspucken können, als wäre er wie fließendes kristallklares Wasser produziert worden. Gut für sie. Und wenn der Aufsatz oder die Erzählung relativ kurz und prägnant ist, könnte auch hier der Wing-It-Ansatz aus der Vogelperspektive geeignet sein. Wie auch immer, ich sage nur, dass Umrisse oder Skelette eine nützliche Möglichkeit sind, Dinge zu erledigen, und dass sie, obwohl sie kein Allheilmittel sind, manchmal heldenhaft von Vorteil sein können (meistens, verkünde ich dreist).

Der berühmte Mystery- und Krimiautor Jeffery Deaver hat Folgendes über Skizzen gesagt: „Ich verbringe acht Monate damit, einen Roman zu skizzieren und zu recherchieren, bevor ich anfange, ein einziges Wort der Prosa zu schreiben.“

Stellen Sie sich vor, welche eisernen Nerven erforderlich sind, wenn man einen Umriss oder ein Skelett skizziert. In gewisser Weise verzögern Sie die vor Ihnen liegende Aufgabe. Die Versuchung, sich in die Zone zu begeben und sofort mit dem Schreiben zu beginnen, ist enorm. Jeder Moment, den Sie der Gliederung oder dem Grundgerüst widmen, ist scheinbar ein Moment, der dem Akt des vollständigen Ausschreibens des Aufsatzes oder der Erzählung, die gerade erarbeitet wird, gestohlen wird.

Wir müssen uns aber auch darüber im Klaren sein, dass schneidiger Wahnsinn beim Schreiben äußerst nach hinten losgehen kann. Sie schreiben eine Reihe von Wörtern und stellen dann fest, dass diese für die vorliegende Angelegenheit nicht relevant sind. Autsch, jetzt löschen Sie diese Wörter und haben beim Verfassen wertvolle Zeit verschwendet. Oder vielleicht schreiben Sie eine Menge Zeug, und es ist unorganisiert und verschlungen. Dann verbringen Sie übermäßig viel Zeit damit, die Dinge entsprechend in Ordnung zu bringen.

Das Wesentliche ist, dass es von großem Nutzen sein kann, im Voraus einen Umriss oder ein Skelett zu erstellen. Sie gehen eine Wette darauf ein, dass sich der Zeit- und Arbeitsaufwand für die Erstellung der Skizze lohnt und die potenziellen Probleme und Nachteile, die sich daraus ergeben, sich einfach ins Getümmel zu stürzen, insgesamt übertreffen werden. Manchmal ist das eine wirklich kluge Wette. Sie müssen für jede bestimmte Situation entscheiden, ob sich der Umriss oder das Skelett auszahlt.

Wir sind uns auch darüber einig, dass die inhärenten Vorteile von Gliederungen für viele Situationen gelten, die über das bloße Schreiben eines Aufsatzes oder einer Erzählung hinausgehen. Angenommen, Sie gehen campen. Wenn Sie dies tun, ohne vorher herauszufinden, was Sie mitnehmen müssen, besteht die Möglichkeit, dass Sie mit leeren Händen dastehen oder Schwierigkeiten haben, wenn Sie an Ihrem Campingziel ankommen. Am besten erstellen Sie also eine Liste mit den Dingen, die Sie mitnehmen müssen. Die Liste kann als Umriss oder Gerüst beginnen. Nachdem die Liste erstellt wurde, geben Sie die Details ein, z. B. ob Sie den Artikel besitzen oder kaufen müssen, ob jeder Artikel in einem für Camping geeigneten Zustand ist usw.

Mir fallen auch noch einige andere wichtige Überlegungen zur Gliederung ein.

Oft erstellen Sie eine Gliederung oder ein Grundgerüst auf der Grundlage einer anfänglichen übergeordneten Perspektive. Wenn Sie über die Gliederung nachdenken und sie überprüfen, besteht eine große Chance, dass Sie Elemente verschieben oder umformulieren. In diesem Sinne werden Sie wahrscheinlich iterieren, Änderungen vornehmen und die Struktur weiterentwickeln. Daran ist nichts auszusetzen, was ich erwähne, weil manche Leute aus der Fassung zu geraten scheinen, wenn ihr Umriss nicht von Anfang an makellos ist. Entspannen Sie sich und lassen Sie den Prozess ablaufen, Sie werden zweifellos ein besseres Ergebnis erzielen (naja, nicht immer, aber oft genug).

Manchmal können Sie sich dafür entscheiden, einen Umriss oder ein Skelett anzufertigen und damit Schluss zu machen. Sie müssen nichts weiter tun. Stempeln Sie es als erledigt und abgeschlossen. Wahrscheinlicher ist jedoch, dass Sie später einen Versuch unternehmen, die Gliederung zu erweitern. Sie werden das Skelett nutzen, um dann Ihre Weisheiten auf die Seite zu bringen. Ergo ist die offensichtliche und wahrscheinliche Erweiterung eines Umrisses oder Skeletts ein wesentlicher Bestandteil dieses Prozesses.

Normalerweise verstricken Sie sich nicht leidenschaftlich in Ihre Gliederung. Sicherer ist die Erkenntnis, dass Sie flexibel bleiben müssen, wenn Sie erst einmal mit dem Schreiben beginnen. Während der Erweiterungsphase einer Gliederung kann es sein, dass Sie dazu veranlasst werden, das Grundgerüst zu überdenken und neu auszurichten. Wenn Sie sich hartnäckig weigern, Anpassungen vorzunehmen, untergraben Sie möglicherweise den wahren Geist einer Gliederung. Normalerweise ist ein Umriss ein Leitfaden und keine unumstößliche, in Stein gemeißelte Betonmauer.

JK Rowling, die geschätzte Autorin der Harry-Potter-Reihe, hat dies insbesondere in Bezug auf die Gliederung angedeutet: „Ich habe immer eine grundlegende Handlungsskizze, aber ich überlasse einige Dinge gerne der Entscheidung, während ich schreibe.“

Dem Versuch, eine Gliederung zu erstellen, liegt fast immer eine Grundlage oder ein Zweck zugrunde. Selten würde man sich aus dem Nichts dazu entschließen, ein solches Artefakt zusammenzusetzen. Der springende Punkt ist, dass das Skelett ein grundlegendes Ziel oder einen Anspruch darauf hat, was es umfassen soll. Dabei handelt es sich nicht nur um willkürliche Formulierungen oder willkürliche Zusammenstellungen von Listen. Alles geschieht mit einem bestimmten Ziel vor Augen.

Zusammenfassend können wir diese Grundsätze zu Umrissen und Skeletten geltend machen:

Ich bin mir sicher, dass Sie zum jetzigen Zeitpunkt mit angehaltenem Atem abwarten, um zu sehen, wie diese Prinzipien auf die generative KI bei der Formulierung und Verwendung der neuen Prompt-Engineering-Technik, bekannt als Skeleton-of-Think, angewendet werden.

Warten Sie nicht länger, als nächstes widmen wir uns dieser spannenden Aufklärung.

Skeleton-Of-Thought bringt intelligente Gliederung in die generative KI

Das ist der Deal.

Diejenigen, die generative KI verwenden, sind in der Regel darauf bedacht, die KI dazu zu bringen, eine Antwort oder einen Aufsatz vollständig auszuspucken. Sie können der KI-App auch mitteilen, dass sie die Gedankenkette als Ansatz verwenden soll, um die generative KI dazu zu bringen, die ausgegossene Antwort oder den Aufsatz schrittweise oder Schritt für Schritt zu präsentieren. Alles in allem versuchen Sie immer noch, den ganzen Kit-and-Kaboodle auf einmal zu erledigen. Die Urknall-Einstellung gegenüber dem Einsatz generativer KI.

Manchmal ist weniger mehr, nämlich dass wir bereit sind, die generative KI zunächst einen Umriss oder ein Grundgerüst dessen erstellen zu lassen, woraus der Aufsatz oder die Antwort wahrscheinlich bestehen wird (Sie erinnern sich vielleicht, ich habe zu Beginn dieser Diskussion erwähnt, dass das Schlagwort von „Weniger ist mehr“ wäre eine Erinnerung wert).

Die Erstellung eines Umrisses oder Skeletts in der generativen KI hat mehrere entscheidende Vorteile.

Erstens weiß man vorher nie wirklich, ob die generative KI die Frage oder Anweisung, die man ihr stellt, ausreichend oder richtig versteht. Sie könnten nach einem Aufsatz über Banken fragen und überrascht sein, dass die KI-App tausend Wörter über die Ufer eines Flusses oder Baches generiert und nicht über Finanzinstitute und Banken. Generative KI ist wie eine Schachtel Pralinen. Man weiß nie genau, wie es reagieren wird.

Es kann ärgerlich sein, einen Aufsatz oder eine Erzählung zu bekommen, die nicht Ihren Vorstellungen entspricht. Darüber hinaus kann es kostspielig sein, wenn Sie für den Einsatz generativer KI bezahlen. Sie haben gerade Geld für ein nutzloses und irrelevantes generiertes Ergebnis weggeworfen. Es ist unwahrscheinlich, dass der KI-Hersteller Ihnen eine Rückerstattung anbietet.

Was können wir gegen dieses allgemeine Schokoladenschachtel-Dilemma tun?

Bitte schnallen Sie sich an und bereiten Sie sich auf die große Enthüllung vor (ich bin mir sicher, dass Sie bereits verstanden haben, wohin ich will).

Folgendes können Sie tun:

Voila, Sie können dann das Skelett untersuchen, um zu sehen, ob die generative KI Ihren Interessen entspricht oder nicht. Vorausgesetzt, dass die generative KI zielgerichtet ist, können Sie sie anweisen, die Gliederung zu erweitern und so den Rest Ihrer Wortwahl zu erhalten. Wenn die generative KI außerhalb des Ziels liegt, können Sie sie anweisen, die Richtung zu ändern oder vielleicht ganz neu anzufangen, wenn die Dinge wirklich durcheinander geraten.

Ein weiterer Pluspunkt dieser Skelettausgabe besteht darin, dass Sie vermutlich die kostspieligen Aufsätze oder Erzählungen zu falschen Themen vermeiden, die die generative KI möglicherweise versehentlich für Sie erstellt. Sie werden die Dinge im Keim ersticken. Zugegebenermaßen fallen die Kosten für die Erstellung der Gliederung und dann noch einmal die Kosten für die Erweiterung an, aber die Chancen stehen gut, dass dies in etwa so ausfällt, als hätte man gleich zu Beginn den gesamten Aufsatz angefordert. Die Einsparungen entstehen durch die Vermeidung der Generierung von Inhalten, die Sie nicht erhalten wollten.

Die Verwendung des Gedankenskelett-Ansatzes bietet möglicherweise einen versteckten zusätzlichen Vorteil. Ich habe zuvor darauf hingewiesen, dass die Gedankenkettentechnik die von der KI generierten Ergebnisse zu verbessern scheint. Dasselbe scheint auch für die Skeleton-of-Think-Technik möglich zu sein. Bisherige Forschungsergebnisse deuten vorläufig darauf hin, dass die Erstellung eines Umrisses oder eines Skeletts den Anstoß für die generative KI geben wird (ich vertraue darauf, dass Sie bemerkt haben, dass ich das Sprichwort „Vorbereitung der Pumpe“ verwendet habe, ein leckerer Hinweis, der zu Beginn dieser Diskussion erwähnt wurde). Sobald die generative KI das Grundgerüst erstellt hat, scheint es wahrscheinlicher, dass sie auf Kurs bleibt und den Rest der Antwort oder des Aufsatzes so produziert, wie es sich für das nun erstellte Grundgerüst gehört.

Ich behaupte nicht, dass das SoT immer verdienstvoll sein wird, was man auch über die Verwendung von CoT sagen kann. Alles in allem scheinen sie beide recht hilfreich zu sein. Ob dies immer der Fall ist, darüber lässt sich sicherlich streiten. Sie müssen Ihre eigenen Bemühungen bei der Verwendung von CoT und SoT beurteilen.

Beachten Sie, dass allein der Umriss oder das Skelett für Sie von großem Nutzen sein könnte.

Angenommen, Sie werden von Ihrem Chef gebeten, einen Plan für die Umgestaltung des Unternehmenssystemnetzwerks zu erstellen (nehmen wir an, dass Ihr Unternehmen den Einsatz generativer KI für Arbeitszwecke befürwortet; einige tun dies nicht, also seien Sie vorsichtig beim Einsatz generativer KI im Arbeitskontext ). Sie müssen die wichtigsten Schritte des Plans auf hohem Niveau erarbeiten. Dies wird dann von Ihrem Chef überprüft. Lange bevor der Plan umgesetzt wird, müssen alle Arten von Zeitplanung, Budgetierung usw. erledigt werden.

Sie wenden sich der generativen KI zu und bitten die KI-App, zu diesem Zweck einen Plan zu erstellen, wobei Sie die KI in einer Skelettform anweisen, dies zu tun. In diesem Fall benötigen Sie lediglich die generierte Gliederung. Sie rechnen nicht mit einer Ausweitung, zumindest nicht zum jetzigen Zeitpunkt. Beachten Sie, dass Sie die Skelett-of-Think-Technik verwenden können, um lediglich ein Skelett oder einen Umriss zu erstellen, ohne nach einer Erweiterung zu fragen. Manchmal wünscht man sich eine Erweiterung, manchmal nicht.

Ich fordere Sie dringend auf, die Aufnahme von SoT in Ihr Repertoire an Soforttechnik in Betracht zu ziehen.

Hier ist mein empfohlener Satz von 10 Schritten, die Sie unternehmen sollten, wenn Sie die Skeleton-of-Thought (SoT)-Methode bei der Verwendung generativer KI verwenden:

Befolgen Sie die empfohlenen Schritte sorgfältig und aufmerksam.

Hier ist der Grund. Diejenigen, die sich dafür entscheiden, die Skeleton-of-Thought-Methode (SoT) herumzuwerfen und dies wohl oder übel tun, werden zwangsläufig wohl oder übel Ergebnisse erzielen. Ihre beste Vorgehensweise besteht darin, systematisch vorzugehen. Wenden Sie diese neue Technik mit Bedacht und in einer klassischen Goldlöckchen-Geisteshaltung an, ohne zu heiß oder zu kalt zu sein.

Ich habe noch einen weiteren Trick im Ärmel, warum das Gedankengerüst von Vorteil sein kann. Es hängt mit der Verarbeitungsgeschwindigkeit zusammen, die der Ausführung Ihrer Anfragen an eine generative KI-App zugrunde liegt. Die typische generative KI-App ist so konzipiert, dass sie Ihre Anfrage seriell bearbeitet und ein Ergebnis generiert, indem Sie zuerst eine Sache erledigen und dann die nächste Sache erledigen.

KI-Entwickler und KI-Forscher wollen die Funktionsweise generativer KI unter der Haube beschleunigen. Wenn möglich, wäre es praktisch, wenn Parallelität eingeführt werden könnte. Die Idee dahinter ist, dass Ihre Anfrage an mehrere Computerprozessoren verteilt und gleichzeitig oder parallel bearbeitet werden kann.

Eine etwas vereinfachte Sichtweise ist, dass die generative KI herkömmlicherweise einen Computerprozessor verwenden könnte, indem sie eine lange Pipeline zur Generierung Ihres Ergebnisses durchläuft. Wenn die Generierungsaktivitäten gleichzeitig durchgeführt werden könnten, könnte dies die Erzielung Ihrer Ergebnisse enorm beschleunigen. Die meisten von uns bemerken diese schnellere Reaktionszeit möglicherweise nicht, insbesondere wenn sie rudimentäre Aktionen mit generativer KI ausführen. Dennoch könnte diese Parallelität für umfangreichere Anwendungen generativer KI von Bedeutung sein. Es gibt auch etwas zu sagen über die Möglichkeit, insgesamt effizienter zu sein, wenn Tausende oder Millionen von Benutzern eine generative KI-App verwenden möchten.

Ich erwähne dies, weil ein cleverer Trick darin bestünde, dass die generative KI die Erweiterung des erzeugten Skeletts oder Umrisses durch parallele Erweiterung jedes der identifizierten Elemente vornimmt. Stellen wir uns vor, ich hätte eine Gliederung, die von KI erstellt wurde, und die Gliederung besteht aus acht Hauptelementen. Ich bitte die KI, die acht Elemente zu erweitern. Der übliche interne Mechanismus könnte sein, dass das erste Element erweitert wird, dann das zweite Element, dann das dritte und so weiter. Eine generative KI mit Parallelitätskapazität könnte möglicherweise alle acht gleichzeitig erweitern. Die Erweiterung wird wahrscheinlich im Verborgenen stattfinden und Sie werden nichts anderes sehen, als dass die erweiterte Version auf Ihrem Bildschirm angezeigt wird. Sie werden keine Ahnung haben, ob es seriell oder parallel durchgeführt wurde (es sei denn, die generative KI-App zeigt Ihnen dies an).

Ein Nachteil dieser Parallelität besteht darin, dass sie möglicherweise nicht realisierbar ist, wenn die Elemente des Skeletts voneinander abhängig oder voneinander abhängig sind. Abhängig von den Umständen kann die serielle interne Verarbeitung die einzig geeignete Lösung sein.

KI-Forschung erforscht diese tanzenden Skelette

Da die Grundlagen von SoT nun für Sie auf dem Tisch liegen, können wir tiefer in die Natur von Gedankenskelett-Eingabeaufforderungen eintauchen und einen aktuellen Forschungsbericht zu einigen wichtigen Nuancen dieser neuen Technik für generative KI untersuchen.

Die Forschungsstudie trägt den Titel „Skeleton-of-Thought: Large Language Models Can Do Parallel Decoding“ von Xuefei Ning, Zinan Lin, Zixuan Zhou, Huazhong Yang und Yu Wang und wurde am 28. Juli 2023 online gestellt Ich werde verschiedene Auszüge aus der Studie zitieren. Denken Sie unbedingt daran, den vollständigen Artikel zu lesen, um alle Feinheiten dieser neuesten KI-Forschung zu erfahren.

Folgendes haben sie in ihrer Forschung untersucht:

Ich gehe davon aus, dass Sie diesen Auszügen entnehmen können, dass sie auf der Suche nach einigen wesentlichen Vorteilen für den Einsatz dieser Technik sind, insbesondere der Nutzung von Parallelität zur Beschleunigung der Verarbeitung.

Kurz gesagt, hier sind ihre Gesamtergebnisse:

Es kann zu einer Beschleunigung kommen. Wenn die Art der gestellten Fragen jedoch nicht zu Antworten führt, die sich leicht parallelisieren lassen, kann es sein, dass Sie nicht von der Beschleunigung profitieren.

Sie stellten die verschiedenen Eingabeaufforderungen zur Verfügung, die sie im Rahmen ihrer Experimente verwendeten, was auch freundlicherweise veranschaulicht, wie Eingabeaufforderungen erstellt werden, um generative KI in einen Gedankenskelettmodus zu versetzen.

Betrachten Sie zum Beispiel diese Eingabeaufforderung:

Beachten Sie, dass die Eingabeaufforderung versucht, der generativen KI eine Anleitung zum Verfassen einer Skelettantwort zu geben. Das ist wichtig, sonst könnte die generative KI in eine unerwartete Richtung gehen. Beachten Sie außerdem, dass Sie die SoT-Eingabeaufforderung möglicherweise als Einführung oder Etablierung durchführen können, indem Sie dies zu Beginn jeder Konversation sagen und sie später in einer Konversation über ein auslösendes Schlüsselwort oder Schlagwort aufrufen, siehe meine Berichterstattung unter dem Link hier.

Wenn Sie die Erweiterung eines generierten Skeletts durchführen möchten, finden Sie hier ein Beispiel dafür:

Sie können die gleichen Nuancen der Erweiterung auch in anderen Stilen ausdrücken, je nachdem, wie Sie Eingabeaufforderungen schreiben. Die Forschungsstudie nutzte auch einige in der KI-Branche etablierte Eingabeaufforderungen.

Hier ist beispielsweise eine Eingabeaufforderung, die eine Präferenz für Kohärenz in der Erweiterung zum Ausdruck bringt:

Hier ist ein Hinweis darauf, dass Sie eine Vielzahl von Perspektiven bevorzugen (Vielfalt):

Noch eine weitere Aufforderung, die darauf abzielt, die Relevanz der Antwort sicherzustellen:

Sie können mit diesen Aufforderungen herumspielen und sie verwenden, wenn die Situation zutreffend erscheint.

Eine Frage, die es zu klären gilt, ist, ob das Grundgerüst während der Erweiterung wörtlich wiederholt werden soll oder ob die Erweiterung möglicherweise durch die generative KI verändert werden soll. Normalerweise wiederholt die generative KI die Gliederung wörtlich. Dies erscheint angemessen, da Sie dann genau sehen können, wie die ursprüngliche Struktur aussah und dass die Erweiterung scheinbar der ursprünglichen Struktur entspricht. Änderungen an der ursprünglichen Struktur können ärgerlich sein und den Verdacht erwecken, dass die generative KI vom Weg abgekommen ist. Das Gegenargument ist, dass es möglicherweise nützlich sein könnte, wenn die generative KI die ursprüngliche Struktur variieren darf, vorausgesetzt, dass die generative KI durch die Erweiterung einen Mehrwert schafft.

Denken Sie darüber nach und entscheiden Sie von Fall zu Fall, was für Sie in Frage kommt.

Ein Beispiel für ein Gedankengerüst, um zu zeigen, wie es funktioniert

Die Forschung umfasste eine Reihe von Experimenten, um zu beurteilen, wie sich SoT zu verhalten scheint. Die Eingabeaufforderungen und Fragen, die in die generativen KI-Apps eingegeben wurden, waren im Allgemeinen eher kurz und relativ einfach. In ihren Abschlussbemerkungen fordern sie KI-Forscher dazu auf, in weitere Richtungen zu gehen, um zu sehen, wie SoT unter verschiedenen Zusatzbedingungen funktioniert.

Ich habe mich für eine Reihe ähnlicher Experimente mit einem recht komplexen Problem entschieden. In früheren Kolumnen hatte ich einen Blick auf schnelle technische Techniken geworfen, die anhand eines rechtlichen Szenarios vorgestellt wurden, bei dem es um Fragen der Treuhandpflicht von Unternehmensleitern ging. Den Link finden Sie hier. Konkret befasste ich mich mit rechtlichen Fragen der betrieblichen Loyalitäts- und Fürsorgepflichten.

Ich habe diese Bemühungen wiederholt, indem ich SoT verwendet habe. Aus Platzgründen kann ich hier nicht auf Einzelheiten eingehen, aber bitte seien Sie sich darüber im Klaren, dass ich erkannt habe, dass der SoT-Ansatz in den richtigen Situationen und bei richtiger Anwendung einen Mehrwert bietet und von Nutzen ist.

Schauen wir uns ein Beispiel aus der Forschungsarbeit an, um zu sehen, wie sich der Einsatz generativer KI ausgewirkt hat. Ich habe Ihnen bereits die SoT-Eingabeaufforderung gezeigt, die die Voraussetzungen dafür schafft, dass die generative KI in einen Gedankenskelettmodus übergeht, daher werde ich das hier nicht wiederholen. Gehen Sie davon aus, dass sich die generative KI jetzt im SoT-Modus befindet. Bei dem Beispiel, das ich auszugsweise angeführt habe, geht es um die Frage, wie man feststellen kann, ob jemand aufrichtig oder einfach nur höflich ist.

Auf geht's.

Die Eingabeaufforderung, die in die generative KI eingegeben wurde, bestand aus:

Die generative KI hat diese Antwort als Skelett oder Umriss generiert:

Anschließend wurde die generative KI gebeten, eine Erweiterung der Antwort zu generieren:

Im Gegensatz dazu wird hier die konventionelle Verwendung generativer KI bei der Erstellung einer Nicht-SoT-Aufsatzantwort verwendet:

Das obige Beispiel zeigt das abgeleitete Skelett und zeigt die Erweiterung des Skeletts sowie einen praktischen Vergleich über eine herkömmliche Aufsatzantwort, die generiert wurde. Jede dieser Variationen hat ihre Vorzüge. Keines ist an sich besser oder schlechter als das andere. Ihre Situation sollte Aufschluss darüber geben, welche Methode für Ihren generativen KI-Einsatz geeignet ist.

Abschluss

Ich hoffe, dass diese Diskussion über diese neue Technik Sie dazu anregt, darüber nachzudenken, sie von Zeit zu Zeit und bei Bedarf zu nutzen. Wenn Sie lieber einen herkömmlichen Aufsatz schreiben möchten, wäre der SoT wahrscheinlich nicht der richtige Weg. Wenn eine Gliederung und möglicherweise eine Erweiterung der Gliederung erforderlich ist, ist der SoT Ihre bisherige Vorgehensweise.

Vorerst noch ein paar abschließende Bemerkungen.

Umrisse sind großartig. Sie erfüllen einen nützlichen Zweck. Die meisten Menschen nutzen sie recht häufig. Sie verwenden nicht immer Umrisse oder Skelette. Ich erinnere mich an den berühmten Satz: Wenn alles, was man hat, ein Hammer ist, wird alles auf der Welt behandelt, als wäre es ein Nagel. Man geht herum und hämmert Dinge, die nicht gehämmert werden müssen. Schlimmer noch, Sie könnten etwas hämmern, das mit einem anderen Werkzeug einem nützlichen Zweck dienen und das damit verfolgte Ziel erreichen würde.

Skeleton-of-thought ist ein interessantes und nützliches Werkzeug für das Prompt Engineering. Nutzen Sie es gut. Benutze es weise. Ich würde Ihnen raten, SoT in Ihrem Werkzeugkasten an Techniken und Methoden für die schnelle Entwicklung zu haben. Nutzen Sie SoT, wie es Ihnen angemessen erscheint.

Manchmal ist weniger mehr und das Ansaugen der Pumpe ist äußerst fruchtbar.