Eğitimin işe yarayıp yaramadığını ölçmek, hedefli içerik ataması, koç kokpiti. Bu konuda 3 yazı var.
Eğitim raporlarında en sık görülen üç sayı şudur: kaç kişi katıldı, kaç saat sürdü, memnuniyet puanı kaç. Üçü de girdi ölçer, çıktı değil. Bir eğitim yüksek katılımlı, uzun ve sevilen olabilir — ve hiçbir davranışı değiştirmemiş olabilir.
Ayrımı net koymak gerekir. Girdi: katılım, süre, memnuniyet. Çıktı: hedeflenen davranışın değişmesi. Sonuç: gelir ve tutundurma etkisi. Çoğu ofis yalnız birincisini ölçer ve buna "eğitim raporu" der.
Karmaşık bir istatistik işi değildir: (1) her içeriği bir veya birkaç KPI'ya etiketle — "itiraz karşılama" içeriği "teklif→kapanış" oranını hedefler; (2) o KPI'da zayıf bantta olan danışmana hedefli ata, herkese değil; (3) gerçek tamamlanmayı ölç — "açtı" bir tamamlama değildir; (4) sonraki dönemde aynı KPI'yı karşılaştır.
Bir içerik hiçbir KPI'ya bağlanamıyorsa sorulması gereken soru şudur: bu içerik neyi değiştirmeyi hedefliyor?
Koçluğun sorunu zaman yetersizliği değil, zamanın yanlış dağılmasıdır. Haftalık gündem "herkesle 15 dakika" olduğunda kimseye yetmez; "bu hafta konuşulması gereken 3 kişi" olduğunda işe yarar. O üç kişi sezgiyle seçilirse yine en iyiler ve kriz üretenler seçilir. Veriyle seçilirse düşüşü yeni başlayanlar seçilir — müdahalenin gerçekten sonuç verdiği tek grup.
"Eğitimim iyidir" öznel bir iddiadır. "Bu içeriği tamamlayan 43 danışmanın teklif→kapanış oranı sonraki dönemde ortalama 14 puan arttı" nesnel bir iddiadır ve pazarlık masasını tamamen değiştirir. Etki ölçümü bir denetim aracı değil, eğitmen için bir kanıt üretim aracıdır.
"Açtı" bir tamamlama değildir ve ölçüt içerik türüne göre değişir. Videoda izlenen sürenin %95'i makul bir eşiktir — sona atlamayı engeller. Makalede karşılığı %90 scroll derinliği artı asgari okuma süresidir; yalnız scroll ölçülürse sayfayı üç saniyede kaydıran kişi "okudu" görünür. Sınavlı içerikte geçer not, maruz kalmayı değil anlamayı ölçer.
Bir metodolojik uyarı da gerekli: tamamlayanların KPI'sı daha çok arttıysa bu, eğitimin işe yaradığını kanıtlamaz — tamamlayanlar zaten daha motive kişiler olabilir. Küçük bir ofiste kusursuz deney tasarımı mümkün değildir, ama bu farkındalıkla okunan sayı hiç okunmayan sayıdan iyidir.
Eğitim verdin, herkes katıldı, memnuniyet yüksek. Peki hangi gösterge değişti? Bu soruya cevabı olan eğitmen azdır.
İlan metni yazmak AI'ın en küçük faydası. Asıl fark, kimin hangi hafta neye odaklanacağını söylemesinde.
Yapay zekâ bir danışmanın yerine görüşme yapmaz. Ama hangi görüşmeye odaklanacağını, neden geride kaldığını ve bu hafta neyi değiştireceğini söyleyebilir.
Katılımla değil, hedeflenen KPI'nın öncesi-sonrası değişimiyle. Dört adım: içeriği KPI'ya etiketle → o KPI'da zayıf olana ata → gerçek tamamlanmayı ölç → sonraki dönemde aynı KPI'yı karşılaştır.
Videoda izlenen sürenin %95'i eşik olarak kullanılabilir (sona atlamayı engeller). Makalede karşılığı %90 scroll + asgari okuma süresi'dir; yalnız scroll ölçülürse sayfayı hızla kaydıran kişi 'okudu' görünür.
'Herkesle 15 dakika' yerine 'bu hafta konuşulması gereken 3 kişi'. Bu üç kişi sezgiyle seçilirse hep en iyiler ve kriz üretenler seçilir; veriyle seçilirse düşüşü yeni başlayanlar seçilir — müdahalenin işe yaradığı tek grup.
Bu yazılardaki göstergeler LevelPilot'ta hazır gelir — sen yalnız veriyi girersin.