PointSemSeg+ Semantische Segmentierung von Punktwolken mittels Bayesschen Neuronalen Netzen zur Unsicherheitsquantifizierung
Mit dem zunehmenden Einsatz der digitalen Bauwerksinformationsmodellierung (BIM) im gesamten Lebenszyklus steigt gleichzeitig der Bedarf an der BIM-gerechten Dokumentation von Bestandsbauwerken (As-is-Modellierung). Die rasanten technologischen Entwicklungen der letzten Jahre im Bereich der Aufmaßsysteme (z.B. Laserscanner) erlauben heute die effiziente und räumlich hochaufgelöste Bauwerkserfassung in Form von 3D-Punktwolken. Die Ableitung von geometrisch-semantischen as-is Modellen aus den 3D-Punktwolken (Scan to BIM) ist jedoch ein komplexer, mehrstufiger Prozess (vgl. Abb. 1), der durch einen hohen Aufwand und zahlreiche manuelle Arbeitsschritte geprägt ist. Zur Steigerung des Automatisierungsgrads beim Scan to BIM, erscheinen maschinelle Lernverfahren, insbesondere für den wichtigen Schritt der semantischen Segmentierung, äußerst vielversprechend. Besonders tiefe künstliche neuronale Netze (Deep Neural Networks, DNN) sind in der Lage aus großen Mengen an Trainingsdaten komplexe Zusammenhänge zu erlernen und erzielen dadurch heute bereits gute Ergebnisse bei der semantischen Segmentierung von Bauteilen.
Eine wichtige Information für die Folgeschritte (z.B. Geometriefitting) oder auch für die spätere Nutzung der automatisch abgeleiteten Modelle, ist jedoch die Kenntnis der Qualität, da der automatisierte Prozess nie fehlerfrei gelingt. Trotz großer Fortschritte in den letzten Jahren, sind moderne DNN-Architekturen noch nicht in der Lage die Unsicherheit ihrer Ausgaben ausreichend genau zu quantifizieren, was eine bedeutende Einschränkung der Einsatzfähigkeit in realen Anwendungen darstellt. Um die Robustheit und Verlässlichkeit der semantischen Segmentierung von 3D-Punktwolken im Bereich des Infrastrukturbaus zu steigern, werden im Projekt speziell Bayessche Neuronale Netze für die Schätzung der Unsicherheit untersucht.
Das Projekt ist in 5 Arbeitspakete gegliedert:
[AP1] Anforderungsanalyse, Datenerhebung und Vorverarbeitung
- Auswahl repräsentativer Bauteile in Anlehnung an die Nibelungenbrücke Worms
- Datenerhebung mit geodätischen Laserscanner (terrestrisch, UAV), Kamera
- Manuelle Segmentierung und Klassifizierung der Daten (Ground Truth)
[AP2] Sensitivitätsanalyse zur Untersuchung von Punktwolkenmerkmalen
- Analyse von erfassten Merkmalen (u.a. Koordinaten, Farbwerte und radiometrische Information)
- Analyse von abgeleiteten Merkmalen (z.B. lokale Kovarianz, Höhe, Texturmerkmale, etc.)
[AP3] Vorsegmentierung
- Vorsegmentierung mit klassischen Verfahren (z.B. Support Vector Machines, Random Forrests etc.)
[AP4] Bayessche Neuronale Netze zur semantischen Segmentierung von Punktwolken
- Erweiterung von bekannten Netzwerkarchitekturen mit Bayesschen Schichten
- Untersuchung des Einflusses von den verschiedenen Merkmalen aus AP2
- Zuverlässigkeitsuntersuchung der geschätzten Unsicherheit
[AP5] Evaluierung
- Erstellung eines Demonstrators ausschließlich anhand von Deep Learning-Verfahren, um die Tauglichkeit unter Berücksichtigung der Unsicherheit in der Praxis zu bewerten.
Projektmeilensteine im Rahmen des SPP-Programms:
- Erstellung von Punktwolken-Trainingsdatensätzen auf verschiedenen Granularitätsstufen: von semantischen Klassen im Brückenbereich [1,3,5] bis hin zu einzelnen Materialien [6] (AP1b)
- Sensitivitätsanalyse verschiedener Merkmale für die semantische Segmentierung von Materialien in 3D-Punktwolken [6] (AP2)
- Verschiedene Deep-Learning-Modellarchitekturen implementiert und auf Brückendatensätzen miteinander verglichen [4,5] (AP3)
- Methoden für Fein- und Grobsegmentierung [3] sowie mit interaktiven Komponenten [7] (AP3)
- Entwicklung von bayesschen Schichten zur Unsicherheitsschätzung in der Punktwolkensegmentierung [1] (AP4)
- Organisation eines Workshops zum Thema „Scan2FEM“ mit Teilnehmenden aus allen SPP100+-Clustern zur Präzisierung der Anforderungen an die geometrische Modellrepräsentation. (AP1a)
Anprechpartner
Publikationen
Peer-Reviewed Journal Paper
Vassilev, H., Laska, M., & Blankenbach, J. (2024). Uncertainty-aware point cloud segmentation for infrastructure projects using Bayesian deep learning. Automation in Construction, 164, 105419. https://doi.org/10.1016/j.autcon.2024.105419
Kellner, M., Vassilev, H., Busch, A., Blaskow, R., Ferrandon Cervantes, M., Poku-Agyemang, K. N., Schmitt, A., Weisbrich, S., Maas, H.-G., Neitzel, F., Reiterer, A., & Blankenbach, J. (2024). Scan2BIM – A Review on the Automated Creation of Semantic-Aware Geometric as-is Models of Bridges. Avn – Allgemeine Vermessungs-Nachrichten, 3, 159–181. https://doi.org/10.14627/avn.2024.3.4
Mansour, M., Martens, J., & Blankenbach, J. (2024). Hierarchical SVM for Semantic Segmentation of 3D Point Clouds for Infrastructure Scenes. Infrastructures, 9(5), 83. doi.org/10.3390/infrastructures9050083
Vassilev,H. Blankenbach J. (2025), Empirischer Vergleich von Deep-Learning-Ansätzen zur semantischen Segmentierung von 3D-Punktwolken auf realen Brückendatensätzen. Avn - Allgemeine Vermessungs-Nachrichten. (under review)Konferenz und andere VÖ
Konferenz und andere VÖ
Vassilev, H., Blankenbach, J: Semantische Punktwolkensegmentierung mit künstlichen neuronalen Netzen für die automatische Erstellung von as-is BIM-Modellen. In: Weinold (Hrsg.) 22 Internationale Geodätische Woche Obergurgl, Wichmann Verlag, Heidelberg. S 90-101 2023
Vassilev, H., & Blankenbach, J. (2025). Fine-grained feature extraction for semantic segmentation of point clouds for Civil Engineering structures. 2025 European Conference on Computing in Construction
Mansour. M, Vassilev H., Blankenbach, J (2025) IWSHM - Hybrid Workflow for Digital Twin Creation: Human-in-the-Loop Segmentation and Geometry-Aware Modeling of Bridge Structures (submitted)