Synonym zu Wahrscheinlichkeit verwende ich das Fremdwort Probabilität. Die mathematische Disziplin, die (mathematische!) Wahrscheinlichkeit behandelt, bezeichne ich als Stochastik. Stochastik wird oft mit Wahrscheinlichkeitstheorie übersetzt, aber eigentlich ist - eigenartigerweise - meistens von der Wahrscheinlichkeitsrechnung die Rede, was ja eher den Gegenstand als die Disziplin bezeichnet.

Die Wortendung "-keit" wird oft bei der Substantivierung von Adjektiven verwendet. Wahrscheinlich-keit ist eine Hypostasierung von wahrscheinlich.

Würfel

Beim Würfel gibt es 6 verschiedene Resultate, die sich - sachlogisch - gleich oft einstellen, wenn ein korrekter Würfel hinreichend oft korrekt geworfen wird. Jede Augenzahl kommt also in 1/6 der Fälle oder mit einer Wahrscheinlichkeit von 1/6 vor. Die Wahrscheinlichkeit eines bestimmten Resultates repräsentiert die Verteilung der Resultate.
Ich kann die Wahrscheinlichkeit als Erwartung oder als Prognose temporalisieren, also für Aussagen über die Zukunft verwenden, aber das betrifft die Verteilung der Häufigkeiten natürlich nicht.
 

Wetterprognose

Beim Wetter unterscheide ich verschiedene Zustände wie Regen, Sonnenschein oder Sturm (de.meteoarchive.com unterscheidet 100 verschiedene Zustände). Je nach Region und Jahreszeit haben diese Zustände eine empirische Häufigkeit oder eben Wahrscheinlichkeit, die mich etwa bei der Planung meines Urlaubes interessiert.
Auch in diesem Fall repräsentiert die Wahrscheinlichkeit eines bestimmten Zustandes die empirische Verteilung.
 

Beim Würfel sage ich nicht, dass ein bestimmtes Resultat wahrscheinlich ist. Ich sage dagegen, dass bestimmte Resultate (etwa eine 6 beim Würfeln oder ein Lotttogewinn) nicht wahrscheinlich sind, weil die Wahrscheinlichkeit mit 5/6 dagegen relativ gross ist.
Mit wahrscheinlich beziehe ich mich beim Würfel auf ein nicht stattfindendes Ereignis.
 

Beim Wetter sage ich beispielsweise, dass es im Januar in der Schweizer Bergen wahrscheinlich schneit und dass es im August in Rimini wahrscheinlich schön und warm ist, weil die Wahrscheinlichkeit der Wetterzustände nicht wie beim Würfel gleichverteilt ist.
Mit wahrscheinlich beziehe ich mich beim Wetter auf ein stattfindendes Ereignis. Ich spreche in diesem Fall über eine Wahrscheinlichkeit, die eben - wie die Wahrscheinlichkeit keine 6 zu würfeln - relativ gross ist.
 

Beim Würfel kenne ich die Verteilung der Resultate. Es gibt keine Anzeichen dafür, dass ein bestimmtes Resultat jenseits seiner Wahrscheinlichkeit erscheint, so dass ich sagen würde, dass es wahrscheinlich ist.
 

Beim Wetter gibt es Anzeichen. Wenn Wolken, Morgenrot, Westwind usw vorhanden sind, regnet es in der Regel auch. Es gibt also eine Häufigkeitsverteilung unter bestimmten Voraussetzungen, die ein bestimmtes Ereignis wahrscheinlich macht.
Natürlich ist die Wahrscheinlichkeit für Regen bei diesen Voraussetzungen immer - also nicht nur an einem speziellen Tag - gross. Aber die Wahrscheinlichkeit, dass hinreichend viele dieser Voraussetzungen zu einem bestimmten Zeitpunkt erfüllt sind, ist etwa so gross, wie die Wahrscheinlichkeit, dass es unabhängig von zusätzlichen Voraussetzungen regnet.
Beim Wetter kann ich also sagen, dass es im Prinzip unwahrscheinlich ist, dass es regnet, weil es im Sommer selten regnet, dass es aber aktuell sehr wahrscheinlich ist, weil es viele schwarze Wolken hat.
Es gibt überdies Einflüsse, die ich nicht kenne, und Einflüsse, die sich mir unbekannt kumulieren, von welchen ich aber weiss, dass sie nicht oft vorkommen, also in diesem Sinne nicht sehr wahrscheinlich sind.