Das ultimative A/B-Testing Video

In dem hier eingebundenen, fast einstündigen Video gibt der Gründer der AB-Testing-Software Optimizely, Dan Siroker, seine geballten Erfahrungen aus über 30.000 AB- und Multivariaten-Tests wieder.

Das Video gliedert sich dabei in die folgenden 10 Kapitel:

1. Vorstellung von Dan Siroker und Optimizely
http://www.youtube.com/watch?v=7xV7dlwMChc#t=27s

2. Nichts ist heilig – Hinterfrage Annahmen.
http://www.youtube.com/watch?v=7xV7dlwMChc#t=4m47s

3. Erforsche bevor Du verfeinerst
http://www.youtube.com/watch?v=7xV7dlwMChc#t=12m20s

4. Weniger ist mehr, reduziere die Auswahlmöglichkeiten
http://www.youtube.com/watch?v=7xV7dlwMChc#t=16m58s

5. Wörter sind wichtig – Achte auf Deinen Call-to-Action
http://www.youtube.com/watch?v=7xV7dlwMChc#t=18m36s

6. Scheitere schnell
http://www.youtube.com/watch?v=7xV7dlwMChc#t=22m33s

7. Starte heute
http://www.youtube.com/watch?v=7xV7dlwMChc#t=24m14s

8. Optimizely Live-Demo
http://www.youtube.com/watch?v=7xV7dlwMChc#t=25m16s

9. Zusammenfassung.
http://www.youtube.com/watch?v=7xV7dlwMChc#t=31m42s

10. Fragen & Antworten
http://www.youtube.com/watch?v=7xV7dlwMChc#t=32m22s

Unabhängig davon, ob man die sehr empfehlenswerte A/B-Testing-Software von Optimizely bereits einsetzt oder darüber nachdenkt sie zu nutzen, kann ich dieses Video grundsätzlich jedem ans Herz legen, der sich mit A/B-Tests oder auch Multivariaten-Tests beschäftigt, um seine Webseite zu optimieren.

Falls Du noch andere empfehlenswerte Videos zum Thema kennst, schreibe doch bitte einen Kommentar.

A/B-Tests im Wahlkampf

Nachdem wir im letzten Jahr bereits darüber berichtet haben, wie Barack Obama im Präsidentschaftswahlkampf 2008 erfolgreich auf A/B-Testing gesetzt hat, habe ich mir mal die Webseiten seiner potentiellen Herausforderer für die Wahl 2012 angeschaut.

Enttäuschenderweise konnte ich lediglich im Quelltext der Homepage des Ex-Gouverneurs und voraussichtlichen republikanischen Präsidentschaftskandidaten Mitt Romney einen Hinweis auf die Verwendung von A/B-Tests finden. Seine Konkurrenten Rick Perry, Newt Gingrich, Ron Paul und Rick Santorum scheinen hingegen darauf zu verzichten. Vielleicht ein Grund, warum sie wohl keine Chance mehr haben, nominiert zu werden!?

Interessant ist, dass Mitt Romney auf die A/B-Testing-Software von Optimizely setzt, welche von Obamas ehemaligem “Director of Analytics” (Direktor der Analyse) Dan Siroker entwickelt wurde. Dieser konnte offensichtlich auch seinen ehemaligen Chef überzeugen, denn auch auf Barack Obamas Webseite finden sich Hinweise auf den Einsatz von Optimizely (z.B. hier).

AB-Testing im politischen Wahlkampf - Homepage von Mitt Romney

Natürlich steht Optimizely auch allen “Normalsterblichen” zur Verfügung. Unabhängig davon, ob man als Politker für den Wahlkampf aktiv werden möchte, den Spendenprozess auf seiner Vereinshomepage optimieren will oder testen möchte, mit welchem Produktbild der E-Commerce-Umsatz maximiert werden kann, besteht die Möglichkeit schon ab ca. 11€ / Monat auf die Dienste von Optimizely zurückzugreifen.

A/B-Testing à la Obama: 60 Millionen US$ mehr Spenden

Vor einigen Wochen hat Präsident Obama Palo Alto besucht um auf die gute, alte Art Spenden zu sammeln: Ein Fundraising-Abendessen, an dem jeder Platz 30.400 US$ kostet. Die Fundraisingtechnik ist bewährt und eine großartige Möglichkeit Geld zu sammeln, wenn man es schafft, den Präsidenten der Vereinigten Staaten für ein gemeinsames Abendessen zu begeistern. Wie aber kann man Geld sammeln, wenn niemand je von Dir gehört hat und alles was Du hast eine Webseite ist? Damals, 2007, als Obama sich für die Nominierung zum Präsidentschaftskandidat beworben hat und in den Umfragen zweistellig zurücklag, war das so ziemlich alles was, wir hatten.
AB-Testing mit Obama

Das Experiment

Als „Director of Analytics“ (Direktor der Analyse) der Obama Kampagne war es mein Job Daten auszuwerten, damit wir bessere Entscheidungen treffen konnten. Im Dezember 2007 haben wir mit einem einzigen, einfachen Experiment angefangen. Dieses Experiment lehrte uns, dass jeder Besucher unserer Webseite ein Chance darstellt und uns, wenn wir diese durch Webseitenoptimierung und A/B-Testing nutzten, helfen würde mehrere zehn Millionen US$ zu sammeln.

Das Experiment umfasste dabei zwei Teilbereiche unserer Splash-Page: Den „Media“ Bereich im oberen Teil der Seite und den Call-to-Action „Button“.

Die verschiedenen Bereiche der Webseite die getestet werden sollen

Wir haben vier Buttons und sechs verschiedene Medien-Elemente (drei Bilder und drei Videos) getestet. Dazu benutzten wir den Google Website Optimizer und einen voll-faktoriellen, multivariaten Test. Das ist lediglich eine extravagante Ausdrucksweise dafür, dass wir alle möglichen Kombinationen gleichzeitig gegeneinander getestet haben. Mit vier Buttons und sechs verschiedenen Medien-Elementen hatten wir also 24 (4×6) Kombinationen zu testen. Jedem Besucher der Splash Page wurde per Zufall eine dieser Variationen angezeigt und wir haben beobachtet, ob er sich angemeldet hat oder nicht. Bevor Du jetzt runterscrollst um die Ergebnisse zu betrachten, rate doch mal, welcher Button und welches Medien-Element am erfolgreichsten war:

Button Varianten
AB-Testing Button Variante Sign Up

AB-Testing Button Variante Learn More

AB-Testing Button Variante Join Us Now

AB-Testing Button Variante Sign Up Now

Variationen der Medien Elemente

Ergebnisse

Das Maß, an dem wir den Erfolg festmachten, war die Sign-Up-Rate (Anmelderate): Die Anzahl der Menschen, die sich angemeldet haben, geteilt durch die Zahl der Menschen, welche die spezifische Variante angezeigt bekommen haben. Insgesamt wurde die Splash Page im Laufe des Tests 310.382 Mal aufgerufen, also gut 13.000 Mal pro Kombination (310.382/13).

Hier sind die Anmelderaten, die wir für jede Variante beobachtet haben:
AB-Testing Obama Einzelergebnisse

Hier sind die Anmelderaten für die Kombinationen der verschiedenen Varianten:
AB-Testing Obama Kombinationsergebnisse

Der Gewinner

Die beste Performance eines Buttons mit einem Medien-Element war „Combination 11“ (Kombination 11), der „Learn More“ Button mit dem „Family Image“ (Familienbild):
AB-Testing Obama Beste Performance

Vor dem Experiment waren wir davon überzeugt, dass „Sam’s Video“ (das letzte in der obigen Slideshow) zu den besten Resultaten führen würde. Hätten wir das Experiment nicht gemacht, hätten wir wahrscheinlich dieses Video auf der Splash Page verwendet. Das wäre ein großer Fehler gewesen, da alle Videos zu schlechteren Ergebnissen geführt haben als die Bilder. Die beste Kombination führte zu einer Anmelderate von 11,6%. Die ursprüngliche Webseite hatte eine Anmelderate von 8,26%. Dies entspricht einer Steigerung von 40,6%. Was bedeutet eine Steigerung von 40,6%?

Nun, wenn man annimmt, dass diese Steigerung für den Rest der Kampagne konstant bliebe, dann können wir uns die Gesamtzahl am Ende der Kampagne anschauen und den Unterschied ermitteln, den dieses Experiment hatte. Ungefähr 10 Millionen Menschen haben sich während der Kampagne auf der Webseite angemeldet. Wenn wir das Experiment nicht durchgeführt hätten und bei der ursprünglichen Webseite geblieben wären, dann wäre diese Zahl näher an 7.120.000 Anmeldungen. Das ist ein Unterschied von 2.880.000 Emailadressen.

Eine Email an eine der Emailadressen, welche wir über unsere Splash Page generiert haben mit der Bitte um ehrenamtliche Unterstützung hat normaler Weise in 10% aller Fälle zum Erfolg geführt. 2.880.000 zusätzliche Emailadressen haben also zu 288.000 mehr Freiwilligen geführt. Jede Emailadresse welche auf der Splash Page eingegeben wurde führte im Durchschnitt zu 21 US$ Spenden während der gesamten Kampagne. Die 2.880.000 zusätzlichen Emailadressen auf unserer Liste führten also zu ca. 60 Millionen US$ zusätzlicher Spenden.

Lernerfahrungen

  1. Jeder Besucher Deiner Webseite stellt eine Chance dar. Nutze sie durch Optimierung Deiner Webseite und A/B-Testing.
  2. Stelle Annahmen in Frage. Jeder in der Kampagne hat die Videos geliebt, aber alle Videos führten zu schlechteren Ergebnissen als die Bilder. Wir hätten das niemals rausgefunden, wenn wir nicht unsere Erfahrungen in Frage gestellt hätten.
  3. Experimentiere früh und oft! Wir haben dieses Experiment im Dezember 2007 durchgeführt und die Früchte davon während der gesamten Kampagne geerntet. Da dieses erste Experiment so erfolgreich war, haben wir bis zum Ende dutzende weitere Experimente durchgeführt.

Warum Optimizely?

Optimizely kostenlos testenWir haben Optimizely entwickelt, da wir es einfacher machen wollten Experimente wie diese durchzuführen. Optimizely ist im Endeffekt das Produkt, von dem ich wünschte, wir hätten es während der Kampagne gehabt. Wir konnten nur einen kleinen Teil der Experimente realisieren, die wir durchführen wollten, da damals die Zeit und der Aufwand für solche Experimente zu groß waren. Wenn Du nach einem einfachen Weg suchst Deine Webseite zu testen, versuch es doch mal mit Optimizely.

Update: Wie inzwischen bekannt geworden ist nutzt auch die offizielle Kampagne zur Wiederwahl von Barack Obama in 2012 Optimizely. Deren Stellvertretender Direktor für neue Medien Josh Peck schreibt dazu „Die Verpflichtung zur Wahl Aufforderung Facebook App (Commit to Vote Challenge) war sehr effektiv darin Menschen in den Wahlprozess einzubinden, viele die es sonst nicht gemacht hätten. Es kam kurz nach der Einführung zu einer viralen Verbreitung und hat inzwischen mehr als 1 Million aktiver Nutzer auf Facebook. Dies wäre ohne die Verbesserung dir wir durch die Nutzung von Optimizely gemacht haben nicht möglich.“

Optimizely wird von der Kampagne aber nicht nur zur Verbreitung ihrer Facebook App genutzt. Wer technisch versiert ist sieht auch im Quelltext von www.barackobama.com, dass hier Optimizely eingebunden ist.

a

Die englische Originalversion dieses Artikels ist hier zu finden und wurde von Dan Siroker verfasst, einem der Gründer der A/B-Testing-Software Optimizely. Die hier zu lesende, deutsche Version wurde mit Zustimmung des Autors erstellt, das Update wurde selber verfasst.

Wie betterplace.org mit Transparenz für 12,6% mehr Klicks sorgt

Auch die Spendenplattform betterplace.org setzt auf AB-Testing, um die eigene Webseite zu optimieren und so noch mehr Geld für soziale Projekte in aller Welt zu sammeln. Hierbei kam es kürzlich zu einem erstaunlichen Ergebnis.

AB-Testing bei betterplace.org (vorher)

Bei einem Test wurde ein Teil des Textes auf der Startseite auf eher unscheinbare Weise verändert. Statt mit den Worten „betterplace.org ist Deutschlands große Spendenplattform“ pries man sich versuchsweise mit „betterplace.org ist die wahrscheinlich transparenteste Spendenlattform der Welt.“ an.

AB-Testing bei betterplace.org (nachher)

Während zuvor deutlich augenscheinlichere Experimente beinah keine Veränderungen im Nutzerverhalten nach sich zogen, hat diese Textänderung zu einer Steigerung der Klicks auf den nebenstehenden Button („Finde Dein Projekt“) um 12,6% geführt.

Das sage noch eine/r, dass sich Transparenz nicht lohnt!

Umgesetzt wurde der Test übrigens mit der AB-Testing Software Optimizely, die man hier kostenlos testen kann (es ist nichtmal eine Anmeldung erforderlich).

A/B-Test führt zu 60% mehr Registrierungen

Es ist erstaunlich, wie sehr die Ergebnisse von A/B-Teste von dem abweichen, was man intuitiv annehmen würde. Eines der besten Beispiele hierfür ist ein A/B-Split-Test, der kürzlich von Venido, einem Anbieter für kostenlose E-Commerce-Shops, mit Hilfe der A/B-Testing-Software Visual Website Optimizer durchgeführt wurde. Ziel des Tests war es, auf einer speziellen Landing-Page zur Registrierung für die kostenlosen Shops die Registrierungs-Konversionsrate (Conversion-Rate) zu erhöhen

A/B-Test Details

Die ursprüngliche Landing-Page kombiniert Marketinginhalte und Registrierungsfelder mit der Absicht, die Anzahl der Klicks für eine erfolgreiche Registrierung zu minimieren. So sah die ursprüngliche Seite mit dem integrierten Registrierungsformular aus:

AB-Testing für mehr Registrierungen (ursprüngliche Version)

Eine solche direkte Einbindung des Registrierungsformulars in die Landing-Page gilt dabei eigentlich als „Best Practise“ (siehe z.B. Facebook). Aus diesem Grund hatte Venido die ursprüngliche Version der Landing-Page lange Zeit gleich gelassen. Denn man hatte angenommen, dass durch die Anzahl der zur Registrierung notwendigen Klicks die Konversionsrate (Conversion-Rate) erhöht würde. Tatsächlich war die Performance der Seite relativ gut, aber man wollte ganz sicher gehen, dass das eingebundene Registrierungsformular nicht zu aggressiv oder limitierend wirkte.

Die Variante der Webseite, welche im Rahmen des A/B-Tests getestet wurde, nutzte ähnliche Bilder und Inhalte. Aber man verzichtete auf jegliche Registrierungsfelder und verwendete ein etwas anderes Styling. Ein Klick auf den „Sign up Now“-Button führte den Besucher auf eine Seite mit Registrierungsformular. Es wurde dem Konversions-Trichter (Conversion-Funnel) also effektiv ein zusätzlicher Schritt hinzugefügt. Keine sehr clevere Idee, wie man glauben mag, oder? So sah die Variante aus:
AB-Testing führt zu mehr Registrierungen (neue Variante)

A/B-Test Ergebnisse

Erstaunlicher Weise war die Performance der Variante ohne eingebundene Registrierungsfelder und mit dem zusätzlichen Schritt deutlich besser. Um genau zu sein hat sich die Zahl der Registrierungen um 60% erhöht!

Vendio hatte dabei Folgendes zu Ergebnissen zu sagen: „Best Practices sind NICHT immer wahr! Es ist noch immer schwer zu glauben, aber die Zahlen lügen nicht.

Deshalb ist das die größte Lehre hier, und es lohnt sich diese zu wiederholen: „Best Practices sind NICHT immer wahr!“ Wenn Du Änderungen an Deiner Webseite oder Landing-Page ohne A/B-Testing durchführst, tappst Du im Endeffekt im Dunklen. Eine weitere Lehre besteht darin, dass es durchaus Sinn macht, extrem unterschiedliche Variante einer Webseite zu testen, selbst wenn dies auf den ersten Blick wenig sinnvoll erscheint (wie z.B. das eingebundene Registrierungsformular von der Landing-Page zu entfernen).

Referenz für den Visual Website Optimizer

Nach dem erfolgreichen Test hat sich Venido begeistert über den Visual Website Optimizer geäußert:

Der Visual Website Optimizer (VWO) war außerordentlich nützlich. Er war für uns deutlich einfacher als andere Lösungen (einige konnten wir nicht mal richtig zum Laufen bringen). Ohne den VWO würden auf all diese Registrierungen verzichten müssen, und wir erzielen ach wie vor großartige und überraschende Ergebnisse mit dem VWO.

Visual Website Optimizer

a
Die englische Originalversion dieses Artikels ist hier zu finden. Die hier zu lesende, deutsche Version wurde mit Zustimmung des Autors und Gründers des Visual Website Optimizer – Paras Chopra – erstellt.

a

+ 416% – A/B-Testing à la Wikipedia

Viele von Euch werden sich sicherlich noch an die Spendenaufrufe auf Wikipedia erinnern. Das kostenlose Online-Lexikon konnte so allein 2010 ca. 16 Millionen US$ an Spenden generieren. Weniger bekannt ist, dass im Rahmen dieser Fundraising-Aktion sehr intensiv mit A/B-Tests gearbeitet wurde. So wurden zahlreiche Banner mit zum Teil extrem unterschiedlichen Ergebnissen getestet. Mit Abstand am erfolgreichsten waren die persönlichen Aufrufe des Wikipedia-Gründers Jimmy Wales, insbesondere wenn ein Foto von ihm Bestandteil des Banners war.
AB-Testing-Ergebnisse Wikipedia

Die Ergebnisübersicht eine A/B-Tests von Wikipedia.

a

Besonders beeindruckend war ein A/B-Test am 26. Oktober. Das erfolgreichste Banner hat pro Einblendung zu 416% mehr Spenden geführt als das zweiterfolgreichste. Das lag zum einen an einer höheren Click-Through-Rate (CTR) und zum anderen an einer um ca. 50% höheren Durchschnittsspende.
AB-Testing Wikipedia - Erfolgreichstes Banner

Der mit Abstand erfolgreichste Banner

a
Im Vergleich zu dem am wenigsten erfolgreichen Banner konnte das Spendenvolumen pro Einblendung sogar um über 2500% gesteigert werden.
AB-Testing Wikipedia - Mittlere Performance

Dieser Banner hat schon weniger als 1/5 des besten eingespielt.

a
Wer bisher noch gezögert hat, sich mit A/B-Testing auseinander zu setzen, der sollte spätestens jetzt noch mal drüber nachdenken…
AB-Testing Wikipedia - Schlechteste Performance

Dieser Banner hat sogar weniger als 5% des besten eingespielt.

a
Wer mehr wissen will, dem sei die von Wikipedia bzw. der Wikimedia-Foundation öffentlich zugänglich gemachte Banner-Testing-Dokumentation ans Herz gelegt, wobei man hier in Sachen Übersichtlichkeit sicherlich noch Potential hat… Etwas verständlicher geht es in den „Updates from the Fundraising Team“ zu, aber auch diese liegen bisher leider nur in englischer Sprache vor.

a