Hallo Wolfgang,
wenn Du nur ein flaches Netz (also ohne Subnetze und Routing) betreiben darfst müssen alle IPs in demselben subnetz sein. Damit ist das anlegen eines Subnetz für Deine Clients nicht möglich.
Das Problem bei dem DHCP ist dann das Deine Rechner den DHCP-Server erreichen aber der server anhand der Adresse des empfangenen Interfaces erkennt aus welchem subnetz er die Ip vergeben soll. Und das ist dann immer das Serversubnetz. damit sind alle Deine Versuche für Dich zwar erfolgloas aber aus Sicht des Netzwerkes völlig OK. (In der Definition Deines Subnetzes ist übrigens auch der der Eintrag „option routers 10.0.0.254“ falsch. Hier müsste eine Adresse aus dem Subnetz stehen.)
Deine Frage ob Du an die OPNsense an ein weiteres Interface den IP-Bereich 10.4.0.0/8 bei einem sonstigen Netz 10.0.0.0/8 hängen kann, kann man nur mit NEIN beantworten. So wie ich das sehe ist die OPNsense hier eine Router. Und Router trennen sich nicht überschneidende Netzwerke voneinander. Deine das 10.4.0.0er Netz ist aber ein Bastandteil des 10.0.0.0er Netzes. Da sollte die OPNsense schon bei der Vergabe der IP-Adresse an das Interface meckern.
Nimm doch für das WLan einfach einen anderen privaten Adressbereich (z.B. 172.16.0.0/12). Dann sollte das problemlos gehen. Das Net auf der OPNsense müsste natürlich angepasst werden.
Viele Grüße
Peter