Załóżmy, że każdy z graczy ma do wyboru jedną z M strategii R1,…⁢RM, które nazwiemy strategiami czystymi. Jeśli założymy, że gracz może wybierać te strategie z pewnymi prawdopodobieństwami p1,…,pM, to taki profil strategii p1,…,pM, pi≥0, ∑i=1Mpi=1, nazywamy strategią mieszaną. Strategie mieszane identyfikujemy z punktami sympleksu

Wierzchołki sympleksu SM są oczywiście strategiami czystymi.

Niech w grze bierze udział dwóch graczy i niech ui⁢j oznacza wypłatę gracza I jeśli gra on strategią Ri przeciwko graczowi II grającemu strategią Rj. Macierz U=ui⁢ji,j=1M nazywamy macierzą wypłat.

Załóżmy teraz, że gracz I gra strategią mieszaną p=p1,…,pM przeciwko graczowi II grającemu strategią mieszaną q=q1,…,qM. Ile wyniesie średnia wypłata gracza I? Gdyby gracz I grał czystą strategią Ri przeciwko q, to z prawdopodobieństwami qj dostawałby wypłatę ui⁢j, j=1,…,M, czyli średnio U⁢qTi=∑j=1Mui⁢j⁢qj. Wobec tego grając p przeciw q dostaje z prawdopodobieństwami pi wypłatę U⁢qTi, zatem średnio p⁢U⁢qT=∑i,j=1Mpi⁢ui⁢j⁢qj.

Niech β⁢q oznacza zbiór najlepszych odpowiedzi na strategię q, czyli zbiór tych p, dla których Fq⁢p osiąga wartość maksymalną.

Widzimy więc, że dla równowagi Nasha zachodzi p⁢U⁢qT≤q⁢U⁢qT dla dowolnej strategii p, natomiast dla ścisłej równowagi Nasha mamy p⁢U⁢qT<q⁢U⁢qT dla dowolnej strategii p≠q.

Możemy dość łatwo wykazać, że ścisła równowaga Nasha jest strategią czystą.

Zauważmy, że gdy q jest ścisłą równowagą Nasha, to jeśli w populacji wszyscy stosują tę strategię, to osobnik, który będzie próbował zastosować inną — przegra, gdyż jego wypłata zawsze będzie mniejsza. Taka dynamika gry wiąże się też z koncepcją strategii ewolucyjnie stabilnej, czyli strategii odpornej na niewielkie zaburzenia.

Stałą ε~ nazywamy barierą inwazji. Oczywiście ścisła równowaga Nasha jest strategią ewolucyjnie stabilną. Z drugiej strony

Dowód tego twierdzenia pozostawiamy jako ćwiczenie.

Gra jastrząb – gołąb polega na tym, że gracz ma do wyboru strategię agresji, którą stosując zawsze walczy z przeciwnikiem, albo strategię wycofywania się, w której zawsze ustępuje przeciwnikowi. W trakcie walki osobnik może być poważnie zraniony, więc może wiele stracić, ale z drugiej strony może dużo zyskać, jeśli wygra. Z kolei osobnik ustępujący nie traci w trakcie spotkania z przeciwnikiem. Miarą wygranej w tej grze jest dostosowanie (ang. fitness), często wyrażane jako liczba potomstwa. Niech osobnik, który wygrywa, dostaje g, natomiast osobnik zraniony traci c. Wtedy jeśli spotyka się jastrząb z jastrzębiem, to z prawdopodobieństwem 1/2 może zyskać g i stracić c, więc średnia wygrana to g-c/2. Wygrana jastrzębia przeciw gołębiowi to oczywiście g. Gołąb w starciu z jastrzębiem wycofuje się, więc jego wygrana to 0, a w starciu z gołębiem może wygrać z prawdopodobieństwem 1/2, więc wygrana to g/2. Gra jest symetryczna, zatem wystarczy podać jedynie macierz wypłat gracza I przeciwko II. Często mówi się o graczu ,,kolumnowym” i ,,wierszowym”. Jeśli przez R1 oznaczymy strategię jastrzębia, a przez R2 — gołębia, to macierz wypłat ma postać

W grze tej dodatkowo zakładamy, że rany otrzymywane w walce są na tyle dotkliwe, że g-c<0.

Sprawdzimy, że gra ta nie ma ścisłej równowagi Nasha. Wiemy, że taka równowaga musiałaby odpowiadać albo czystej strategii jastrzębia, albo czystej strategii gołębia. Policzmy dla obu strategii funkcje najlepszej odpowiedzi.

• Biorąc R1=1,0 dostajemy

  FR1⁢p=p⁢U⁢R1T=p1,1-p1⁢g-c2g0g2⁢1,0T=p1⁢g-c2

  i maksymalizując to wyrażenie dostajemy p1=0 (tu widzimy, do czego potrzebne jest założenie g-c<0), czyli R1∉β⁢R1.

• Biorąc R2=0,1 dostajemy

  FR1⁢p=p⁢U⁢R2T=p1,1-p1⁢g-c2g0g2⁢0,1T=p1+1⁢g2

  i maksymalizując to wyrażenie dostajemy p1=1, czyli R2∉β⁢R2.

Widzimy więc, że w grze tej nie ma ścisłej równowagi Nasha. Staje się to oczywiste, jeśli wyobrazimy sobie populację składającą się albo z samych jastrzębi, albo z samych gołębi. Jeśli są same jastrzębie, to pojawiający się gołąb ma lepiej, gdyż w starciu z jastrzębiem nic nie traci, zatem gołębie zaczynają się rozprzestrzeniać. Z kolei jeśli są same gołębie, to pojawiający się jastrząb zawsze wygrywa, więc zaczną rozprzestrzeniać się jastrzębie. Wydaje się więc, że powinna być jakaś odpowiednia proporcja między gołębiami i jastrzębiami.

Rozpatrzmy strategię mieszaną x,1-x, w której z prawdopodobieństwem x osobnik gra strategię jastrzębia i z prawdopodobieństwem 1-x gra gołębia. Wtedy średni wzrost dostosowania jastrzębia wyniesie

natomiast gołębia

Dopóki któreś z tych dostosowań jest większe, odpowiadająca mu strategia będzie się rozprzestrzeniać. Równowaga ustali się, jeśli oba będą jednakowe, czyli

Zatem proporcja jastrzębi będzie tym mniejsza, im więcej można stracić w walce w stosunku do zysku. Ta analiza wyjaśnia też popularność walk rytualnych wśród zwierząt, które mogą się poważnie zranić w trakcie prawdziwej walki — zamiast faktycznie walczyć zwierzęta te wolą w walce rytualnej zaprezentować przed przeciwnikiem swoją siłę licząc na to, że przeciwnik się zniechęci i odejdzie bez prawdziwej walki. W taki sposób postępują np. jelenie na rykowisku.

Dylemat więźnia jest typową grą socjologiczną. Zakłada się w niej, że dwóch więźniów zostało osadzonych w więzieniu w osobnych celach i każdemu z nich prokurator obiecał zmniejszenie wyroku za wydanie współwinnego. Jeśli jednak żaden z nich się nie przyzna, to niewiele będzie im można udowodnić, więc obaj dostaną najwyżej niewielki wyrok. Z kolei jeśli jeden z nich zdradzi, a drugi nie, to ten, który wydał współwinnego dostanie wyrok w zawieszeniu. Jeśli obaj zdradzą się wzajemnie, obaj dostaną nieco mniejsze wyroki. Niech macierz wypłat w tej grze przy założeniu, że R1 oznacza zdradę kolegi, a R2 — odrzucenie propozycji prokuratora, ma postać

gdzie a to wyrok dla więźnia I przy założeniu, że obaj zdradzają się wzajemnie, b — wyrok dla tego więźnia, gdy on odrzuca propozycję prokuratora, a wiezień II go zdradza, więc b>a, natomiast c to wyrok w sytuacji, gdy obaj odrzucają współpracę z prokuratorem, więc a>c.

Zauważmy, że obu więźniom najbardziej opłaca się odrzucić współpracę z prokuratorem, gdyż dzięki temu zapewniają sobie mniejszy wyrok, ale z obawy przed zdradą kolegi wolą sami też zdradzić, bo jeśli kolega zdradzi, a dany więzień nie, to on dostanie cięższy wyrok, niż jeśliby też zdradził. Zatem R1 jest tu czystą równowagą Nasha. Faktycznie grając R1 przeciw R1 mamy wypłatę

natomiast grając przeciw dowolnej strategii x,1-x

i oczywiście a>a⁢x dla x≠1. Wobec tego R1 jest ścisłą równowagą Nasha i jednocześnie strategią ewolucyjnie stabilną. Zauważmy jednak, że strategii tej brakuje jednej z podstawowych cech — nie jest optymalna, w tym sensie, że jeśli obaj wybiorą R2, dostaną mniejsze wyroki.

Tego typu zagadnienia możemy rozważać badając np. optymalność w sensie Pareto.

Pareto postulował następujące kryterium: tylko wynik optymalny w sensie Pareto może być akceptowany jako rozwiązanie gry. Kryterium Pareto stanowi podstawową zasadą racjonalności zbiorowej. W dylemacie więźnia wchodzi ona w konflikt z zasadą racjonalności indywidualnej reprezentowanej przez równowagę Nasha.