ఈ కథనంలో నేను Adobe Flash Player వంటి థర్డ్-పార్టీ బ్రౌజర్ ప్లగిన్‌లను ఉపయోగించకుండా వెబ్‌సాకెట్ల ద్వారా వీడియోను ప్రసారం చేయడానికి నా ప్రయత్నాలను భాగస్వామ్యం చేయాలనుకుంటున్నాను. దాని నుండి ఏమి వచ్చిందో తెలుసుకోవడానికి చదవండి.
అడోబ్ ఫ్లాష్, గతంలో మాక్రోమీడియా ఫ్లాష్, వెబ్ బ్రౌజర్‌లో రన్ అయ్యే అప్లికేషన్‌లను రూపొందించడానికి ఒక వేదిక. మీడియా స్ట్రీమ్ APIని ప్రవేశపెట్టడానికి ముందు, ఇది వెబ్‌క్యామ్ నుండి వీడియో మరియు వాయిస్‌ని ప్రసారం చేయడానికి, అలాగే బ్రౌజర్‌లో వివిధ రకాల సమావేశాలు మరియు చాట్‌లను సృష్టించడానికి ఆచరణాత్మకంగా ఏకైక వేదిక. మీడియా సమాచారాన్ని ప్రసారం చేసే ప్రోటోకాల్ RTMP (రియల్ టైమ్ మెసేజింగ్ ప్రోటోకాల్) వాస్తవానికి చాలా కాలం పాటు మూసివేయబడింది, దీని అర్థం: మీరు మీ స్ట్రీమింగ్ సేవను పెంచాలనుకుంటే, Adobe నుండి సాఫ్ట్‌వేర్‌ను ఉపయోగించేంత దయతో ఉండండి - Adobe Media Server (AMS).
2012లో కొంత సమయం తరువాత, అడోబ్ ప్రజలకు "వదిలి ఉమ్మివేసింది". RTMP ప్రోటోకాల్, ఇది లోపాలను కలిగి ఉంది మరియు తప్పనిసరిగా అసంపూర్ణంగా ఉంది. ఆ సమయానికి, డెవలపర్లు ఈ ప్రోటోకాల్ యొక్క వారి స్వంత అమలులను చేయడం ప్రారంభించారు మరియు Wowza సర్వర్ కనిపించింది. 2011లో, Adobe RTMP-సంబంధిత పేటెంట్‌ల అక్రమ వినియోగం కోసం Wowzaపై దావా వేసింది; 4 సంవత్సరాల తర్వాత, వివాదం సామరస్యంగా పరిష్కరించబడింది.
Adobe Flash ప్లాట్‌ఫారమ్ 20 సంవత్సరాల కంటే పాతది, ఈ సమయంలో అనేక క్లిష్టమైన దుర్బలత్వాలు కనుగొనబడ్డాయి, మద్దతు స్ట్రీమింగ్ సేవ కోసం కొన్ని ప్రత్యామ్నాయాలను వదిలి 2020 నాటికి ముగుస్తుంది.
నా ప్రాజెక్ట్ కోసం, బ్రౌజర్‌లో ఫ్లాష్ వినియోగాన్ని పూర్తిగా వదిలివేయాలని నేను వెంటనే నిర్ణయించుకున్నాను. నేను పైన ఉన్న ప్రధాన కారణాన్ని సూచించాను; మొబైల్ ప్లాట్‌ఫారమ్‌లలో ఫ్లాష్‌కు కూడా మద్దతు లేదు మరియు Windows (వైన్ ఎమ్యులేటర్)లో డెవలప్‌మెంట్ కోసం Adobe Flashని అమలు చేయాలని నేను నిజంగా కోరుకోలేదు. కాబట్టి నేను జావాస్క్రిప్ట్‌లో క్లయింట్‌ను వ్రాయడానికి బయలుదేరాను. ఇది కేవలం ప్రోటోటైప్ మాత్రమే, ఎందుకంటే p2p ఆధారంగా స్ట్రీమింగ్ మరింత సమర్ధవంతంగా చేయవచ్చని నేను తర్వాత తెలుసుకున్నాను, నాకు మాత్రమే అది పీర్ - సర్వర్ - పీర్‌గా ఉంటుంది, కానీ అది ఇంకా సిద్ధంగా లేనందున మరొకసారి మరింత ఎక్కువగా ఉంటుంది.
ప్రారంభించడానికి, మాకు అసలు వెబ్‌సాకెట్ల సర్వర్ అవసరం. నేను మెలోడీ గో ప్యాకేజీ ఆధారంగా సరళమైనదాన్ని చేసాను:
సర్వర్ కోడ్
package main
import (
"errors"
"github.com/go-chi/chi"
"gopkg.in/olahol/melody.v1"
"log"
"net/http"
"time"
)
func main() {
r := chi.NewRouter()
m := melody.New()
m.Config.MaxMessageSize = 204800
r.Get("/", func(w http.ResponseWriter, r *http.Request) {
http.ServeFile(w, r, "public/index.html")
})
r.Get("/ws", func(w http.ResponseWriter, r *http.Request) {
m.HandleRequest(w, r)
})
// Бродкастим видео поток
m.HandleMessageBinary(func(s *melody.Session, msg []byte) {
m.BroadcastBinary(msg)
})
log.Println("Starting server...")
http.ListenAndServe(":3000", r)
}
క్లయింట్‌లో (స్ట్రీమింగ్ వైపు), మీరు ముందుగా కెమెరాను యాక్సెస్ చేయాలి. దీని ద్వారా జరుగుతుంది .
మేము కెమెరా/మైక్రోఫోన్‌కి యాక్సెస్ (అనుమతి) పొందుతాము . ఈ API ఒక పద్ధతిని అందిస్తుంది , ఇది పాప్అప్‌ని చూపుతుంది. కెమెరా మరియు/లేదా మైక్రోఫోన్‌ను యాక్సెస్ చేయడానికి వినియోగదారుని అనుమతిని అడుగుతున్న విండో. నేను Google Chromeలో అన్ని ప్రయోగాలు చేశానని గమనించాలనుకుంటున్నాను, కానీ Firefoxలో ప్రతిదీ అదే విధంగా పని చేస్తుందని నేను భావిస్తున్నాను.
తర్వాత, getUserMedia() వాగ్దానాన్ని అందిస్తుంది, దానికి అది MediaStream ఆబ్జెక్ట్‌ను పంపుతుంది - వీడియో-ఆడియో డేటా స్ట్రీమ్. మేము ఈ వస్తువును వీడియో మూలకం యొక్క src ప్రాపర్టీకి కేటాయిస్తాము. కోడ్:
బ్రాడ్‌కాస్టింగ్ వైపు
<style>
#videoObjectHtml5ApiServer { width: 320px; height: 240px; background: #666; }
</style>
</head>
<body>
<!-- Здесь в этом "окошечке" клиент будет видеть себя -->
<video autoplay id="videoObjectHtml5ApiServer"></video>
<script type="application/javascript">
var
video = document.getElementById('videoObjectHtml5ApiServer');
// если доступен MediaDevices API, пытаемся получить доступ к камере (можно еще и к микрофону)
// getUserMedia вернет обещание, на которое подписываемся и полученный видеопоток в колбеке направляем в video объект на странице
if (navigator.mediaDevices.getUserMedia) {
navigator.mediaDevices.getUserMedia({video: true}).then(function (stream) {
// видео поток привязываем к video тегу, чтобы клиент мог видеть себя и контролировать
video.srcObject = stream;
});
}
</script>
సాకెట్ల ద్వారా వీడియో స్ట్రీమ్‌ను ప్రసారం చేయడానికి, మీరు దానిని ఎక్కడో ఎన్కోడ్ చేయాలి, బఫర్ చేసి, భాగాలుగా ప్రసారం చేయాలి. రా వీడియో స్ట్రీమ్ వెబ్‌సాకెట్ల ద్వారా ప్రసారం చేయబడదు. ఇక్కడే ఇది మా సహాయానికి వస్తుంది . ఈ API మిమ్మల్ని ఎన్కోడ్ చేయడానికి మరియు స్ట్రీమ్‌ను ముక్కలుగా విభజించడానికి అనుమతిస్తుంది. నెట్‌వర్క్‌లో తక్కువ బైట్‌లను పంపడానికి వీడియో స్ట్రీమ్‌ను కుదించడానికి నేను ఎన్‌కోడింగ్ చేస్తాను. ముక్కలుగా విభజించిన తర్వాత, మీరు ప్రతి భాగాన్ని వెబ్‌సాకెట్‌కి పంపవచ్చు. కోడ్:
మేము వీడియో స్ట్రీమ్‌ను ఎన్కోడ్ చేస్తాము, దానిని భాగాలుగా విభజిస్తాము
<style>
#videoObjectHtml5ApiServer { width: 320px; height: 240px; background: #666; }
</style>
</head>
<body>
<!-- Здесь в этом "окошечке" клиент будет видеть себя -->
<video autoplay id="videoObjectHtml5ApiServer"></video>
<script type="application/javascript">
var
video = document.getElementById('videoObjectHtml5ApiServer');
// если доступен MediaDevices API, пытаемся получить доступ к камере (можно еще и к микрофону)
// getUserMedia вернет обещание, на которое подписываемся и полученный видеопоток в колбеке направляем в video объект на странице
if (navigator.mediaDevices.getUserMedia) {
navigator.mediaDevices.getUserMedia({video: true}).then(function (stream) {
// видео поток привязываем к video тегу, чтобы клиент мог видеть себя и контролировать
video.srcObject = s;
var
recorderOptions = {
mimeType: 'video/webm; codecs=vp8' // будем кодировать видеопоток в формат webm кодеком vp8
},
mediaRecorder = new MediaRecorder(s, recorderOptions ); // объект MediaRecorder
mediaRecorder.ondataavailable = function(e) {
if (e.data && e.data.size > 0) {
// получаем кусочек видеопотока в e.data
}
}
mediaRecorder.start(100); // делит поток на кусочки по 100 мс каждый
});
}
</script>
ఇప్పుడు వెబ్‌సాకెట్ల ద్వారా ప్రసారాన్ని జోడిద్దాం. ఆశ్చర్యకరంగా, దీనికి మీకు కావలసిందల్లా ఒక వస్తువు . దీనికి పంపడం మరియు మూసివేయడం అనే రెండు పద్ధతులు మాత్రమే ఉన్నాయి. పేర్లు తమ కోసం మాట్లాడతాయి. జోడించిన కోడ్:
మేము వీడియో స్ట్రీమ్‌ను సర్వర్‌కు ప్రసారం చేస్తాము
<style>
#videoObjectHtml5ApiServer { width: 320px; height: 240px; background: #666; }
</style>
</head>
<body>
<!-- Здесь в этом "окошечке" клиент будет видеть себя -->
<video autoplay id="videoObjectHtml5ApiServer"></video>
<script type="application/javascript">
var
video = document.getElementById('videoObjectHtml5ApiServer');
// если доступен MediaDevices API, пытаемся получить доступ к камере (можно еще и к микрофону)
// getUserMedia вернет обещание, на которое подписываемся и полученный видеопоток в колбеке направляем в video объект на странице
if (navigator.mediaDevices.getUserMedia) {
navigator.mediaDevices.getUserMedia({video: true}).then(function (stream) {
// видео поток привязываем к video тегу, чтобы клиент мог видеть себя и контролировать
video.srcObject = s;
var
recorderOptions = {
mimeType: 'video/webm; codecs=vp8' // будем кодировать видеопоток в формат webm кодеком vp8
},
mediaRecorder = new MediaRecorder(s, recorderOptions ), // объект MediaRecorder
socket = new WebSocket('ws://127.0.0.1:3000/ws');
mediaRecorder.ondataavailable = function(e) {
if (e.data && e.data.size > 0) {
// получаем кусочек видеопотока в e.data
socket.send(e.data);
}
}
mediaRecorder.start(100); // делит поток на кусочки по 100 мс каждый
}).catch(function (err) { console.log(err); });
}
</script>
ప్రసారం వైపు సిద్ధంగా ఉంది! ఇప్పుడు ఒక వీడియో స్ట్రీమ్‌ని స్వీకరించడానికి మరియు దానిని క్లయింట్‌లో ప్రదర్శించడానికి ప్రయత్నిద్దాం. దీనికి మనకు ఏమి కావాలి? మొదట, వాస్తవానికి, సాకెట్ కనెక్షన్. మేము WebSocket ఆబ్జెక్ట్‌కు “వినేవారిని” జోడించి, 'మెసేజ్' ఈవెంట్‌కు సబ్‌స్క్రయిబ్ చేస్తాము. బైనరీ డేటా యొక్క భాగాన్ని స్వీకరించిన తర్వాత, మా సర్వర్ దానిని చందాదారులకు, అంటే క్లయింట్‌లకు ప్రసారం చేస్తుంది. ఈ సందర్భంలో, 'మెసేజ్' ఈవెంట్ యొక్క "శ్రోత"తో అనుబంధించబడిన కాల్‌బ్యాక్ ఫంక్షన్ క్లయింట్‌పై ట్రిగ్గర్ చేయబడుతుంది; ఆబ్జెక్ట్ కూడా ఫంక్షన్ ఆర్గ్యుమెంట్‌లోకి పంపబడుతుంది - vp8 ద్వారా ఎన్కోడ్ చేయబడిన వీడియో స్ట్రీమ్ యొక్క భాగం.
మేము వీడియో ప్రసారాన్ని అంగీకరిస్తాము
<style>
#videoObjectHtml5ApiServer { width: 320px; height: 240px; background: #666; }
</style>
</head>
<body>
<!-- Здесь в этом "окошечке" клиент будет видеть тебя -->
<video autoplay id="videoObjectHtml5ApiServer"></video>
<script type="application/javascript">
var
video = document.getElementById('videoObjectHtml5ApiServer'),
socket = new WebSocket('ws://127.0.0.1:3000/ws'),
arrayOfBlobs = [];
socket.addEventListener('message', function (event) {
// "кладем" полученный кусочек в массив
arrayOfBlobs.push(event.data);
// здесь будем читать кусочки
readChunk();
});
</script>
అందుకున్న ముక్కలను ప్లేబ్యాక్ కోసం వీడియో ఎలిమెంట్‌కు వెంటనే పంపడం ఎందుకు అసాధ్యం అని నేను చాలా కాలంగా అర్థం చేసుకోవడానికి ప్రయత్నించాను, అయితే ఇది చేయలేమని తేలింది, అయితే, మీరు మొదట ఆ భాగాన్ని ప్రత్యేక బఫర్‌లో ఉంచాలి వీడియో మూలకం, ఆపై మాత్రమే అది వీడియో స్ట్రీమ్‌ను ప్లే చేయడం ప్రారంభిస్తుంది. దీని కోసం మీరు అవసరం и .
మీడియా ప్లేబ్యాక్ ఆబ్జెక్ట్ మరియు ఈ మీడియా స్ట్రీమ్ యొక్క మూలానికి మధ్య మీడియా సోర్స్ ఒక రకమైన మధ్యవర్తిగా పనిచేస్తుంది. MediaSource ఆబ్జెక్ట్ వీడియో/ఆడియో స్ట్రీమ్ యొక్క మూలం కోసం ప్లగ్ చేయదగిన బఫర్‌ను కలిగి ఉంది. ఒక లక్షణం ఏమిటంటే, బఫర్ Uint8 డేటాను మాత్రమే కలిగి ఉంటుంది, కాబట్టి అటువంటి బఫర్‌ను సృష్టించడానికి మీకు ఫైల్‌రీడర్ అవసరం. కోడ్‌ని చూడండి మరియు అది మరింత స్పష్టంగా కనిపిస్తుంది:
వీడియో స్ట్రీమ్ ప్లే అవుతోంది
<style>
#videoObjectHtml5ApiServer { width: 320px; height: 240px; background: #666; }
</style>
</head>
<body>
<!-- Здесь в этом "окошечке" клиент будет видеть тебя -->
<video autoplay id="videoObjectHtml5ApiServer"></video>
<script type="application/javascript">
var
video = document.getElementById('videoObjectHtml5ApiServer'),
socket = new WebSocket('ws://127.0.0.1:3000/ws'),
mediaSource = new MediaSource(), // объект MediaSource
vid2url = URL.createObjectURL(mediaSource), // создаем объект URL для связывания видеопотока с проигрывателем
arrayOfBlobs = [],
sourceBuffer = null; // буфер, пока нуль-объект
socket.addEventListener('message', function (event) {
// "кладем" полученный кусочек в массив
arrayOfBlobs.push(event.data);
// здесь будем читать кусочки
readChunk();
});
// как только MediaSource будет оповещен , что источник готов отдавать кусочки
// видео/аудио потока
// создаем буфер , следует обратить внимание, что буфер должен знать в каком формате
// каким кодеком был закодирован поток, чтобы тем же способом прочитать видеопоток
mediaSource.addEventListener('sourceopen', function() {
var mediaSource = this;
sourceBuffer = mediaSource.addSourceBuffer("video/webm; codecs="vp8"");
});
function readChunk() {
var reader = new FileReader();
reader.onload = function(e) {
// как только FileReader будет готов, и загрузит себе кусочек видеопотока
// мы "прицепляем" перекодированный в Uint8Array (был Blob) кусочек в буфер, связанный
// с проигрывателем, и проигрыватель начинает воспроизводить полученный кусочек видео/аудио
sourceBuffer.appendBuffer(new Uint8Array(e.target.result));
reader.onload = null;
}
reader.readAsArrayBuffer(arrayOfBlobs.shift());
}
</script>
స్ట్రీమింగ్ సర్వీస్ ప్రోటోటైప్ సిద్ధంగా ఉంది. ప్రధాన ప్రతికూలత ఏమిటంటే, వీడియో ప్లేబ్యాక్ ప్రసార వైపు కంటే 100 ms వెనుకబడి ఉంటుంది; సర్వర్‌కు ప్రసారం చేయడానికి ముందు వీడియో స్ట్రీమ్‌ను విభజించేటప్పుడు మేము దీన్ని సెట్ చేస్తాము. అంతేకాకుండా, నేను నా ల్యాప్‌టాప్‌లో తనిఖీ చేసినప్పుడు, ప్రసారం మరియు స్వీకరించే వైపుల మధ్య లాగ్ క్రమంగా పేరుకుపోయింది, ఇది స్పష్టంగా కనిపించింది. నేను ఈ ప్రతికూలతను అధిగమించడానికి మార్గాలను వెతకడం ప్రారంభించాను, మరియు... అంతటా వచ్చింది , ఇది స్ట్రీమ్‌ను ముక్కలుగా విభజించడం వంటి ఉపాయాలు లేకుండా వీడియో స్ట్రీమ్‌ను ప్రసారం చేయడానికి మిమ్మల్ని అనుమతిస్తుంది. సంచితం లాగ్, బ్రౌజర్ ప్రసారానికి ముందు ప్రతి భాగాన్ని వెబ్మ్ ఫార్మాట్‌లోకి తిరిగి ఎన్కోడ్ చేయడం వల్లనే అని నేను అనుకుంటున్నాను. నేను ఇంకేమీ త్రవ్వలేదు, కానీ WebRTCని చదవడం ప్రారంభించాను. నా పరిశోధన ఫలితాలు సమాజానికి ఆసక్తికరంగా అనిపిస్తే దాని గురించి ప్రత్యేక కథనం వ్రాస్తాను.
మూలం: www.habr.com