Spieltheorie beschäftigt sich nur selten tatsächlich mit real existierenden Spielen wie Schach oder Schafkopf und häufiger mit abstrakten Situationen, die für Spiele charakteristisch sind: man spielt gegen einen oder mehrere andere Spieler und hat in jedem Spielzug mehrere Optionen. Wer welchen Gewinn nach Hause trägt, hängt von den oft unabhängig voneinder getroffenen Entscheidungen aller Spieler ab.
Ein klassisches Beispiel für die einfachste Art von Spielen, die Zwei-Personen-Nullsummenspiele, ist Papier-Stein-Schere. Hier hat jeder Spieler immer die selbe Zahl von Optionen, die Entscheidungen werden unabhängig und gleichzeitig getroffen, und der Gewinn eines Spielers ist immer der Verlust des anderen - deshalb die Bezeichnung Nullsummenspiel.
Eine mathematische Analyse zeigt, daß es gegen einen rational spielenden Gegner keine bessere Vorgehensweise gibt, als sich mit Wahrscheinlichkeit 1/3 für Papier, Stein oder Schere zu entscheiden. Der rationale Gegner wird das selbe tun. John von Neumann hat in einer bahnbrechenden Arbeit gezeigt, daß es für jedes Zweipersonen-NSS eine solche Gleichgewichtslösung gibt, bei der keiner der Spieler seine Gewinnaussichten verbessern kann, indem er seine Strategie verändert, während alle anderen Spieler ihre Verhaltensweise beibehalten. Im Allgemeinen ist eine sogenannte gemischte Strategie optimal, bei der mit bestimmten Wahrscheinlichkeiten einige der verfügbaren Optionen gespielt werden.
Das ist einer der entscheidenden Punkte bei spieltheoretischen Problemen: jeder Spieler versucht eine Funktion zu maximieren, die von Größen abhängt, die er nicht direkt beeinflussen kann, die sich in Reaktion auf seine Strategie aber verändern können, nämlich die Strategien der Gegner.
Wesentlich komplizierter wird die Situation bei Spielen, bei denen jeder Spieler seine eigene Auszahlungs-Matrix hat, also zum Beispiel auch Kooperation möglich wird. Paradebeispiel ist das "Gefangenen-Dilemma": zwei Spieler haben beide die Optionen "kooperieren" oder "verraten". Wenn beide kooperieren, haben beide einen gewissen Gewinn. Wenn beide sich gegenseitig verraten, ist der Gewinn geringer als bei Kooperation, aber noch nicht katastrophal. Wenn aber einer von beiden Kooperation anbietet, während der andere ihn verrät, zieht der Verräter maximalen Gewinn daraus, während der Kooperateur teuer bezahlen muß. Was tun? Die ernüchternde Analyse sagt: wenn das Spiel nur einmal gespielt wird - verraten, verkaufen, im Stich lassen. Kooperation kann sich nur durchsetzen, wenn das Spiel mehrfach wiederholt wird.
Analogien zum Gefangenendilemma finden sich zu Hauf im täglichen Leben. Schwarzfahren oder für die Fahrkarte l&oum;hnen? Wenn jeder schwarzfahren würde, gäb's keine Busse mehr. Auch die Politiker während des Kalten Kriegs mussten sich eine Menge Gedanken um das Gefangenendilemma machen. Sollte man einen Angriffskrieg starten, der hohe Verluste bringt, oder abwarten und hoffen, daß nicht der Gegner einen Krieg startet, bei dem man mit Sicherheit noch mehr verlieren würde?
In der Biologie hat Spieltheorie interessante Aspekte der Evolution zu Tage gebracht. Wie kommen beispielsweise Bäe zu ihren hohen Stämmen? Wäre es nicht besser, wenn sie sich darauf einigen würden, auf Stämme zu verzichten und alle bei einer niedrigeren Höhe zu bleiben? Das wäre es, aber wenn ein Mutantenbaum trotzdem einen höheren Stamm als seine Mitbäme ausbildet, profitiert er von dem Licht und wirft Schatten auf seine Umgebung, verschafft sich also einen Vorteil, der zu seiner erhöhten Vermehrung beitragen kann.
Verhaltensweisen können also nur dauerhaft existieren (sind evolutionär stabil), wenn abweichendes Verhalten keine Vorteile bringt. Derartige Überlegungen sind auf viele Aspekte auch menschlichen Verhaltens angewandt worden und liefern viele Hinweise, warum offenkundig irrationales Verhalten auf lange Sicht doch rational sein kann.