Die Kostenfunktion der logistischen Regression lautet:
Diese sollte folgende Eigenschaft besitzen: Je größer der absolute Fehler
für ein Objekt , desto größer sollte der Beitrag zur Kostenfunktion sein. Um sich davon zu überzeugen, dass dies bei der zuvor genannten Kostenfunktion der Fall ist, führen wir eine Fallunterscheidung durch.
Angenommen, für ein Objekt gilt . Dann folgt:
Mit der Eigenschaft, dass stets gilt, ergibt sich folgende Aussage: Je größer , desto größer wird . Mit anderen Worten:
Je größer der Fehler , desto größer ist der Beitrag zur Kostenfunktion.
Angenommen, für ein Objekt gilt . Dann folgt:
Mit der Eigenschaft, dass stets gilt, ergibt sich folgende Aussage: Je kleiner , desto größer wird . Mit anderen Worten:
Je größer der Fehler , desto größer ist der Beitrag zur Kostenfunktion.