Methods and Systems of Information Protection, Information Security

SECURITY RESEARCH AND NETWORK TRAFFIC ANALYSIS OF THE SMB OVER QUIC PROTOCOL IN WINDOWS SERVER 2025 INFRASTRUCTURE

N. S. Vasilev
UDC: 004.7.056 EDN: FIFNLA Published: 01.06.2026 Issue: Vol. 2 No. 010 (2026): Professionalitet, 2026 DOI: 10.24412/3033-9359-2026-010-39-50
Download PDF Article on eLIBRARY.RU

Abstract

With growing data volumes and remote work, file resource security has become critical. Traditional SMB over TCP (port 445) is vulnerable to passive traffic interception and is often blocked by firewalls. This article examines SMB over QUIC, which encapsulates SMB traffic into a secure QUIC tunnel over UDP (port 443) with mandatory TLS 1.3 encryption. The study aims to practically verify the deployment methodology of this protocol and to comparatively analyze its network traffic with classic SMB. During the experiment, an isolated laboratory environment based on Windows Server 2025 (version 24H2, build 26100.32230) and Windows 11 Pro (version 25H2, build 26200.7840) was deployed. Using Wireshark 4.6.8 analyzer, traffic of both protocols was intercepted and investigated. The results showed that in an SMB over QUIC session, the analyzer displays the payload exclusively as Protected Payload, without decoding protocol commands or file names. In a control session of classic SMB over TCP (with default settings without forcibly enabled SMB Encryption), the same operations (Create Request, Read, Close) and the file name test.txt (size 1 KB) appear in plain text. It is concluded that SMB over QUIC is a potential alternative to classic VPN solutions exclusively for secure file access, provided that the Public Key Infrastructure (PKI), strict authentication, and auditing are correctly configured, but it does not replace a full-fledged VPN for routing all network traffic. The limitations of the study include the use of a self-signed certificate and a laboratory network without modeling real operating conditions.

Online viewer

References

  1. Адживапаев, М. М. Современные транспортные протоколы: TCP, UDP и QUIC Текст научной статьи по специальности «Компьютерные и информационные науки» / М. М. Адживапаев // Информационные технологии и вычислительные системы. – 2025. – [Электронный ресурс] // КиберЛенинка: [сайт]. – URL: https://cyberleninka.ru/article/n/sovremennye-transportnye-protokoly-tcp-udp-i-quic (дата обращения: 18.08.2026).
  2. Безопасность SMB. – [Электронный ресурс] // Microsoft Learn: [сайт]. – URL: https://learn.microsoft.com/ru-ru/windows-server/storage/file-server/smb-security (дата обращения: 22.08.2026).
  3. Андреянов, Н. С. Исследование клиент-серверных протоколов для повышения отказоустойчивости и безопасности соединения / Н. С. Андреянов // Вестник науки и образования. – 2024. – [Электронный ресурс] // КиберЛенинка: [сайт]. – URL: https://cyberleninka.ru/article/n/issledovanie-klient-servernyh-protokolov-dlya-povysheniya-otkazoustoychivosti-i-bezopasnosti-soedineniya (дата обращения: 21.08.2026).
  4. SMB over QUIC. – [Электронный ресурс] // Microsoft Learn: [сайт]. – URL: https://learn.microsoft.com/ru-ru/windows-server/storage/file-server/smb-over-quic (дата обращения: 21.08.2026).
  5. TLS 1.3 в Windows Server. – [Электронный ресурс] // Microsoft Learn: [сайт]. – URL: https://learn.microsoft.com/ru-ru/windows-server/security/tls/tls-1.3 (дата обращения: 18.08.2026).
  6. IETF RFC 9000. QUIC: A UDP-Based Multiplexed and Secure Transport. – [Электронный ресурс] // IETF: [сайт]. – URL: https://www.rfc-editor.org/rfc/rfc9000.html (дата обращения: 19.08.2026).
  7. IETF RFC 9001. Using TLS to Secure QUIC. – [Электронный ресурс] // IETF: [сайт]. – URL: https://www.rfc-editor.org/rfc/rfc9001.html (дата обращения: 21.08.2026).
  8. QUIC Working Group Documentation. – [Электронный ресурс] // IETF GitHub: [сайт]. – URL: https://quicwg.github.io/ (дата обращения: 20.08.2026).
  9. Симачев, А. Ю. Оценка скрытых каналов по памяти в протоколе QUIC и методы их обнаружения / А. Ю. Симачев // Информационная безопасность регионов России. – 2022. – [Электронный ресурс] // КиберЛенинка: [сайт]. – URL: https://cyberleninka.ru/article/n/otsenka-skrytyh-kanalov-po-pamyati-v-protokole-quic-i-metody-ih-obnaruzheniya (дата обращения: 20.08.2026).
  10. Смирнов, И. А. HTTP/3 и протокол QUIC: будущее высокопроизводительных веб-сервисов / И. А. Смирнов // Молодой ученый. – 2025. – [Электронный ресурс] // КиберЛенинка: [сайт]. – URL: https://cyberleninka.ru/article/n/http-3-i-protokol-quic-buduschee-vysokoproizvoditelnyh-veb-servisov (дата обращения: 19.08.2026).
  11. Галимуллина, А. В. Получение событий с клиента и статусе состояния клиентов средствами Samba AD / А. В. Галимуллина // Информационные технологии. – 2024. – [Электронный ресурс] // КиберЛенинка: [сайт]. – URL: https://cyberleninka.ru/article/n/poluchenie-sobytiy-s-klienta-i-statuse-sostoyaniya-klientov-sredstvami-samba-ad (дата обращения: 21.08.2026).

License

Copyright (c) 2026 N. S. Vasilev (Author)

Creative Commons Attribution (CC BY) 4.0

Keywords

SMB over QUIC Windows Server 2025 network security Wireshark TLS 1.3 QUIC protocol file share