Das ultimative A/B-Testing Video

In dem hier eingebundenen, fast einstündigen Video gibt der Gründer der AB-Testing-Software Optimizely, Dan Siroker, seine geballten Erfahrungen aus über 30.000 AB- und Multivariaten-Tests wieder.

Das Video gliedert sich dabei in die folgenden 10 Kapitel:

1. Vorstellung von Dan Siroker und Optimizely
http://www.youtube.com/watch?v=7xV7dlwMChc#t=27s

2. Nichts ist heilig – Hinterfrage Annahmen.
http://www.youtube.com/watch?v=7xV7dlwMChc#t=4m47s

3. Erforsche bevor Du verfeinerst
http://www.youtube.com/watch?v=7xV7dlwMChc#t=12m20s

4. Weniger ist mehr, reduziere die Auswahlmöglichkeiten
http://www.youtube.com/watch?v=7xV7dlwMChc#t=16m58s

5. Wörter sind wichtig – Achte auf Deinen Call-to-Action
http://www.youtube.com/watch?v=7xV7dlwMChc#t=18m36s

6. Scheitere schnell
http://www.youtube.com/watch?v=7xV7dlwMChc#t=22m33s

7. Starte heute
http://www.youtube.com/watch?v=7xV7dlwMChc#t=24m14s

8. Optimizely Live-Demo
http://www.youtube.com/watch?v=7xV7dlwMChc#t=25m16s

9. Zusammenfassung.
http://www.youtube.com/watch?v=7xV7dlwMChc#t=31m42s

10. Fragen & Antworten
http://www.youtube.com/watch?v=7xV7dlwMChc#t=32m22s

Unabhängig davon, ob man die sehr empfehlenswerte A/B-Testing-Software von Optimizely bereits einsetzt oder darüber nachdenkt sie zu nutzen, kann ich dieses Video grundsätzlich jedem ans Herz legen, der sich mit A/B-Tests oder auch Multivariaten-Tests beschäftigt, um seine Webseite zu optimieren.

Falls Du noch andere empfehlenswerte Videos zum Thema kennst, schreibe doch bitte einen Kommentar.

A/B-Tests im Wahlkampf

Nachdem wir im letzten Jahr bereits darüber berichtet haben, wie Barack Obama im Präsidentschaftswahlkampf 2008 erfolgreich auf A/B-Testing gesetzt hat, habe ich mir mal die Webseiten seiner potentiellen Herausforderer für die Wahl 2012 angeschaut.

Enttäuschenderweise konnte ich lediglich im Quelltext der Homepage des Ex-Gouverneurs und voraussichtlichen republikanischen Präsidentschaftskandidaten Mitt Romney einen Hinweis auf die Verwendung von A/B-Tests finden. Seine Konkurrenten Rick Perry, Newt Gingrich, Ron Paul und Rick Santorum scheinen hingegen darauf zu verzichten. Vielleicht ein Grund, warum sie wohl keine Chance mehr haben, nominiert zu werden!?

Interessant ist, dass Mitt Romney auf die A/B-Testing-Software von Optimizely setzt, welche von Obamas ehemaligem “Director of Analytics” (Direktor der Analyse) Dan Siroker entwickelt wurde. Dieser konnte offensichtlich auch seinen ehemaligen Chef überzeugen, denn auch auf Barack Obamas Webseite finden sich Hinweise auf den Einsatz von Optimizely (z.B. hier).

AB-Testing im politischen Wahlkampf - Homepage von Mitt Romney

Natürlich steht Optimizely auch allen “Normalsterblichen” zur Verfügung. Unabhängig davon, ob man als Politker für den Wahlkampf aktiv werden möchte, den Spendenprozess auf seiner Vereinshomepage optimieren will oder testen möchte, mit welchem Produktbild der E-Commerce-Umsatz maximiert werden kann, besteht die Möglichkeit schon ab ca. 11€ / Monat auf die Dienste von Optimizely zurückzugreifen.

A/B-Testing à la Obama: 60 Millionen US$ mehr Spenden

Vor einigen Wochen hat Präsident Obama Palo Alto besucht um auf die gute, alte Art Spenden zu sammeln: Ein Fundraising-Abendessen, an dem jeder Platz 30.400 US$ kostet. Die Fundraisingtechnik ist bewährt und eine großartige Möglichkeit Geld zu sammeln, wenn man es schafft, den Präsidenten der Vereinigten Staaten für ein gemeinsames Abendessen zu begeistern. Wie aber kann man Geld sammeln, wenn niemand je von Dir gehört hat und alles was Du hast eine Webseite ist? Damals, 2007, als Obama sich für die Nominierung zum Präsidentschaftskandidat beworben hat und in den Umfragen zweistellig zurücklag, war das so ziemlich alles was, wir hatten.
AB-Testing mit Obama

Das Experiment

Als „Director of Analytics“ (Direktor der Analyse) der Obama Kampagne war es mein Job Daten auszuwerten, damit wir bessere Entscheidungen treffen konnten. Im Dezember 2007 haben wir mit einem einzigen, einfachen Experiment angefangen. Dieses Experiment lehrte uns, dass jeder Besucher unserer Webseite ein Chance darstellt und uns, wenn wir diese durch Webseitenoptimierung und A/B-Testing nutzten, helfen würde mehrere zehn Millionen US$ zu sammeln.

Das Experiment umfasste dabei zwei Teilbereiche unserer Splash-Page: Den „Media“ Bereich im oberen Teil der Seite und den Call-to-Action „Button“.

Die verschiedenen Bereiche der Webseite die getestet werden sollen

Wir haben vier Buttons und sechs verschiedene Medien-Elemente (drei Bilder und drei Videos) getestet. Dazu benutzten wir den Google Website Optimizer und einen voll-faktoriellen, multivariaten Test. Das ist lediglich eine extravagante Ausdrucksweise dafür, dass wir alle möglichen Kombinationen gleichzeitig gegeneinander getestet haben. Mit vier Buttons und sechs verschiedenen Medien-Elementen hatten wir also 24 (4×6) Kombinationen zu testen. Jedem Besucher der Splash Page wurde per Zufall eine dieser Variationen angezeigt und wir haben beobachtet, ob er sich angemeldet hat oder nicht. Bevor Du jetzt runterscrollst um die Ergebnisse zu betrachten, rate doch mal, welcher Button und welches Medien-Element am erfolgreichsten war:

Button Varianten
AB-Testing Button Variante Sign Up

AB-Testing Button Variante Learn More

AB-Testing Button Variante Join Us Now

AB-Testing Button Variante Sign Up Now

Variationen der Medien Elemente

Ergebnisse

Das Maß, an dem wir den Erfolg festmachten, war die Sign-Up-Rate (Anmelderate): Die Anzahl der Menschen, die sich angemeldet haben, geteilt durch die Zahl der Menschen, welche die spezifische Variante angezeigt bekommen haben. Insgesamt wurde die Splash Page im Laufe des Tests 310.382 Mal aufgerufen, also gut 13.000 Mal pro Kombination (310.382/13).

Hier sind die Anmelderaten, die wir für jede Variante beobachtet haben:
AB-Testing Obama Einzelergebnisse

Hier sind die Anmelderaten für die Kombinationen der verschiedenen Varianten:
AB-Testing Obama Kombinationsergebnisse

Der Gewinner

Die beste Performance eines Buttons mit einem Medien-Element war „Combination 11“ (Kombination 11), der „Learn More“ Button mit dem „Family Image“ (Familienbild):
AB-Testing Obama Beste Performance

Vor dem Experiment waren wir davon überzeugt, dass „Sam’s Video“ (das letzte in der obigen Slideshow) zu den besten Resultaten führen würde. Hätten wir das Experiment nicht gemacht, hätten wir wahrscheinlich dieses Video auf der Splash Page verwendet. Das wäre ein großer Fehler gewesen, da alle Videos zu schlechteren Ergebnissen geführt haben als die Bilder. Die beste Kombination führte zu einer Anmelderate von 11,6%. Die ursprüngliche Webseite hatte eine Anmelderate von 8,26%. Dies entspricht einer Steigerung von 40,6%. Was bedeutet eine Steigerung von 40,6%?

Nun, wenn man annimmt, dass diese Steigerung für den Rest der Kampagne konstant bliebe, dann können wir uns die Gesamtzahl am Ende der Kampagne anschauen und den Unterschied ermitteln, den dieses Experiment hatte. Ungefähr 10 Millionen Menschen haben sich während der Kampagne auf der Webseite angemeldet. Wenn wir das Experiment nicht durchgeführt hätten und bei der ursprünglichen Webseite geblieben wären, dann wäre diese Zahl näher an 7.120.000 Anmeldungen. Das ist ein Unterschied von 2.880.000 Emailadressen.

Eine Email an eine der Emailadressen, welche wir über unsere Splash Page generiert haben mit der Bitte um ehrenamtliche Unterstützung hat normaler Weise in 10% aller Fälle zum Erfolg geführt. 2.880.000 zusätzliche Emailadressen haben also zu 288.000 mehr Freiwilligen geführt. Jede Emailadresse welche auf der Splash Page eingegeben wurde führte im Durchschnitt zu 21 US$ Spenden während der gesamten Kampagne. Die 2.880.000 zusätzlichen Emailadressen auf unserer Liste führten also zu ca. 60 Millionen US$ zusätzlicher Spenden.

Lernerfahrungen

  1. Jeder Besucher Deiner Webseite stellt eine Chance dar. Nutze sie durch Optimierung Deiner Webseite und A/B-Testing.
  2. Stelle Annahmen in Frage. Jeder in der Kampagne hat die Videos geliebt, aber alle Videos führten zu schlechteren Ergebnissen als die Bilder. Wir hätten das niemals rausgefunden, wenn wir nicht unsere Erfahrungen in Frage gestellt hätten.
  3. Experimentiere früh und oft! Wir haben dieses Experiment im Dezember 2007 durchgeführt und die Früchte davon während der gesamten Kampagne geerntet. Da dieses erste Experiment so erfolgreich war, haben wir bis zum Ende dutzende weitere Experimente durchgeführt.

Warum Optimizely?

Optimizely kostenlos testenWir haben Optimizely entwickelt, da wir es einfacher machen wollten Experimente wie diese durchzuführen. Optimizely ist im Endeffekt das Produkt, von dem ich wünschte, wir hätten es während der Kampagne gehabt. Wir konnten nur einen kleinen Teil der Experimente realisieren, die wir durchführen wollten, da damals die Zeit und der Aufwand für solche Experimente zu groß waren. Wenn Du nach einem einfachen Weg suchst Deine Webseite zu testen, versuch es doch mal mit Optimizely.

Update: Wie inzwischen bekannt geworden ist nutzt auch die offizielle Kampagne zur Wiederwahl von Barack Obama in 2012 Optimizely. Deren Stellvertretender Direktor für neue Medien Josh Peck schreibt dazu „Die Verpflichtung zur Wahl Aufforderung Facebook App (Commit to Vote Challenge) war sehr effektiv darin Menschen in den Wahlprozess einzubinden, viele die es sonst nicht gemacht hätten. Es kam kurz nach der Einführung zu einer viralen Verbreitung und hat inzwischen mehr als 1 Million aktiver Nutzer auf Facebook. Dies wäre ohne die Verbesserung dir wir durch die Nutzung von Optimizely gemacht haben nicht möglich.“

Optimizely wird von der Kampagne aber nicht nur zur Verbreitung ihrer Facebook App genutzt. Wer technisch versiert ist sieht auch im Quelltext von www.barackobama.com, dass hier Optimizely eingebunden ist.

a

Die englische Originalversion dieses Artikels ist hier zu finden und wurde von Dan Siroker verfasst, einem der Gründer der A/B-Testing-Software Optimizely. Die hier zu lesende, deutsche Version wurde mit Zustimmung des Autors erstellt, das Update wurde selber verfasst.

Wie betterplace.org mit Transparenz für 12,6% mehr Klicks sorgt

Auch die Spendenplattform betterplace.org setzt auf AB-Testing, um die eigene Webseite zu optimieren und so noch mehr Geld für soziale Projekte in aller Welt zu sammeln. Hierbei kam es kürzlich zu einem erstaunlichen Ergebnis.

AB-Testing bei betterplace.org (vorher)

Bei einem Test wurde ein Teil des Textes auf der Startseite auf eher unscheinbare Weise verändert. Statt mit den Worten „betterplace.org ist Deutschlands große Spendenplattform“ pries man sich versuchsweise mit „betterplace.org ist die wahrscheinlich transparenteste Spendenlattform der Welt.“ an.

AB-Testing bei betterplace.org (nachher)

Während zuvor deutlich augenscheinlichere Experimente beinah keine Veränderungen im Nutzerverhalten nach sich zogen, hat diese Textänderung zu einer Steigerung der Klicks auf den nebenstehenden Button („Finde Dein Projekt“) um 12,6% geführt.

Das sage noch eine/r, dass sich Transparenz nicht lohnt!

Umgesetzt wurde der Test übrigens mit der AB-Testing Software Optimizely, die man hier kostenlos testen kann (es ist nichtmal eine Anmeldung erforderlich).

Optimizely

Optimizely ist ein Online-Tool, mit dem man extrem einfach A/B-Tests oder Multivariate Tests erstellen kann. Durch einen WYSIWYG-Editor kann man auch ganz ohne HTML- oder CSS-Kenntnisse eine Variante der eigenen Webseite oder Landing Page erstellen. Im Gegensatz zu anderen Anbietern kann dieser getestet werden, ohne dass man sich anmelden muss. Gib dafür einfach auf der Startseite die URL der Seite ein, für die Du eine Variation erstellen möchtest, klicke auf den „Get started“ Button und schon geht es los.

Der WYSIWYG-Editor von Optimizely

Ein Beispiel wie WYSIWYG-Editor von Optimizely im Rahmen eines A/B-Tests der Spendenplattform Spenden.De.

a

Daniel Weinand, der Chefdesigner des Onlineshopanbieters Shopify, schreibt:

Optimizely macht A/B-Testing all denen zugänglich, die über wenig oder kein technisches Wissen verfügen.

Einen guten Überblick gibt auch das unten eingebundene Video in dem Optimizely kurz vorgestellt wird:

Die Benutzerfreundlichkeit und Einfachheit von Optimizely hört aber nicht bei der Erstellung verschiedener Variationen der zu testenden Landing Page auf. Um Optimizely auf der eigenen Seite zu aktivieren, muss einmalig ein kleiner Javascript-Codeschnipsel in den Header der zu testenden Webseite eingefügt werden. Dies sollte jedem, der schon mal ein Youtube-Video in die eigene Webseite eingebunden hat, keine Probleme machen. Alle anderen müssen in diesem Fall doch Kontakt mit der IT-Abteilung aufnehmen, aber diese sollte damit nicht mehr als 2 Minuten beschäftigt sein und muss danach nie wieder belästigt werden. Das Einrichten der zu testenden Ziele (z.B. Klick auf einen bestimmte Link) ist ebenfalls im Handumdrehen gemacht und stellt auch den letzten Schritt dar, bevor es mit dem Test losgehen kann.

Optimizely Ergebnisübersicht Danach verteilt Optimizely die Besucher der Webseite zufällig auf die verschiedenen Versionen der Webseite. Die Ergebnisse kann man auf einer speziellen Übersichtsseite verfolgen, wobei neben den reinen Zahlen jedem Ziel auch 1 bis 5 „Confidence-Punkte“ zugeteilt werden. Anhand dieser „Confidence-Punkte“ kann man schnell erkennen, ob der A/B-Test schon statistisch signifikant ist, oder ob die Gefahr besteht, dass der Zufall hier noch eine zu große Rolle spielt, um wirklich Schlüsse aus dem Test ziehen zu können.

Für fortgeschrittene Nutzer gibt es darüber hinaus eine Vielzahl weiterer Features:

Interaktiver Modus
Um dynamische Webseiten, wie z.B. ein Ajax-Formular mit mehreren Schritten, zu testen, kann der „Interactive Mode“ innerhalb des WYSIWYG-Editors aktiviert werden. So kann auf der zu testenden Seite beispielsweise ein Dialogfenster, ein Dropdown-Menü oder eine Gallerie geöffnet und dort einen entsprechenden Test aktiviert werden

Optimizely Interactive Mode

Cross-Browser Testing

Optimizely Cross Browser TestingIm Rahmen einer Kooperation mit CrossBrowserTesting bietet Optimizely die Möglichkeit sicherzustellen, dass die Varianten der zu testenden Seite in jedem Browser optimal dargestellt werden. Mit einem einzigen Klick kann man sich Screenshots der erstellten Varianten anzeigen lassen und so prüfen, wie diese in verschiedenen Browsern und Betriebssystem aussehen.

Multiple Sign-ins
Es ist möglich, Kollegen oder Kunden Zugang zu seinem Optimizely-Konto zu geben. Diese können sich dann mit einer eigenen E-Mail/Passwort-Kombination einloggen und die Experimente selbstständig bearbeiten bzw. neue anlegen. Wenn man anderen keinen vollen Zugriff auf das Konto geben will, gibt es die Möglichkeit, lediglich die verschiedenen Varianten sowie die Ergebnisse zugänglich zu machen.

Optimizely Multiple Sign-in

Multiple Projects
Wenn man mit Optimizely gleichzeitig mehrere AB-Tests auf verschiedenen Seiten durchführt, kann man für jeden ein eigenes Projekt anlegen und ein eigenes Code-Snippet generieren. In diesem Rahmen ist es dann auch möglich, für jedes dieser Projekte wiederum individuelle Zugangsberechtigungen zu erstellen.

Einfaches Klick-Tracking
Man kann jedes Element der zu testenden Seite markieren und mit dem „Track Clicks“ Feature die entsprechenden Klicks messen.

Optimizely Multiple Sign-in

Cross-Domain-Tests
Sollten sich ein Test oder ein Konversionsziel (Conversion Goal) über mehrere Domains erstrecken, so ist auch das kein Problem und funktioniert mit Optimizely ohne Probleme.

Besucher Segmentierung
Mit Optimizely ist es möglich bestimmte AB-Test-Experimente nur bestimmten Besuchern anzeigen zu lassen. Dies ist nach den folgenden Kriterien möglich:

  • Neue vs. Wiederkehrende Besucher – z.B. den Test also nur neuen Besuchern der Webseite anzeigen
  • Browser – z.B. den Test nur Besuchern mit mobilen Browsern oder HTML5-fähigen Browsern anzeigen
  • Sprache – z.B. den Test nur Besuchern anzeigen, die französische Spracheinstellungen ausgewählt haben
  • Cookie – z.B. nur Besuchern mit einem aktiven Session Cookie anzeigen
  • Referrer – z.B. den Test nur Besuchern, die über Google oder einer speziellen Landinpage kommen, anzeigen
  • Benutzerdefinierte Ereignisse – z.B. den Test nur den Besuchern anzeigen, die das „madePurchase“ event ausgelöst haben
  •  Custom Javascript (für Fortgeschrittene) – z.B. den Test nur Besuchern anzeigen, für die gilt ‚user.accountAge > 365‘, oder nur wenn ‚(new Date()).getDay() != 0‘

AB-Testing Besucher Segmentierung Optimizely

a

Optimizely  ab 10€ pro MonatNach einer 30tägigen Probephase kann Optimizely schon ab ca. 10 € (14 US$) im Monat genutzt werden, wenn man einen 2-Jahres-Vertrag abschließt. Ohne Mindestvertragslaufzeit kann das Angebot ab ca. 14€ (19 US$) genutzt werden. Gegründet wurde Optimizely übrigens von den ehemaligen Google-Mitarbeitern Pete Koomen und Dan Siroker. Letzterer war „Director of Analytics“ der extrem erfolgreichen Online-Wahlkampfkampagne von Barack Obama. Nachdem das Unternehmen im letzten Jahr über 1 Million US$ von bekannten Risikokapitalgebern eingesammelt hat, ist man aktuell dabei, das Team zu erweitern, und dürfte Optimizely künftig noch um viele neue Features erweitern und dazu beitragen, das A/B-Testing von noch mehr Menschen genutzt wird.