D>Для текущего проекта понадобилась следующая функциональность. Имеется файловый сервер. Сервер может располагаться за NAT'ом. Каждый клиент, подключившийся к серверу, может иметь доступ только к одному заданному файлу. То есть каждый клиент работает только со своим файлом. Про файлы других клиентов он знать не должен. Набор операций для работы с файлом — это ReadFile, WriteFile и SetFilePointer. Шифрования трафика не требуется, но желательно, чтобы доступ к файлам осуществлялся по паролю/ключу.

D>Есть ли в природе известный протокол, который может предоставить требуемую функциональность или хотя бы часть её?

HTTPS, SFTP; либо IPSec/VPN + любой протокол доступа к файлам: FTP, NFS, Samba (Windows file sharing). Во всех есть средства ограничинения доступа.